miércoles, 3 de octubre de 2012

Sueñan las máquinas con contratos vinculantes? Inteligencia artificial y validez de los contratos

En la presentación del libro sobre publicidad comportamental que realizó en Madrid el compañero Paco Pérez Bes, a raíz de las interesantes intervenciones que se produjeron me asaltó la duda sobre hasta que punto es vinculante la oferta de contratación que se realiza mediante sistemas de Inteligencia Artificial.

La publicidad comportamental se basa en el análisis de la conducta de un usuario para hacerle llegar aquellas ofertas que mejor se adaptan a su perfil, intereses o gustos.

Pensando en que esas ofertas vengan determinadas por un algoritmo y no por una intervención directa de una persona, o incluso por encontrarse la conducta del consumidor dentro de unos parámetros preestablecidos, cabe que nos cuestionemos si una máquina puede emitir una declaración de voluntad que tenga efectos vinculantes para las partes.

Pero esta intervención de una máquina, o de un programa informático, también podría darse en la parte del consumidor; imaginemos que lanzamos a internet un programa que analice ofertas, decida por nosotros ciertos artículos que comprar  (como por ejemplo si seguimos una dieta que compre en función de precio y calorías según la evolución de nuestra masa muscular, grasa corporal) y vaya aprendiendo él sólo (tras analizar recomendaciones de webs sobre salud y estado físico).

La teoría de la Inteligencia Artificial distingue entre varias categorías siendo interesantes para lo aquí expuesto la de sistemas expertos (aquellos que emulan el razonamiento de un experto en una materia) y la de agente inteligente (que emula el proceso de raciocinio humano, analiza el entorno y toma decisiones).

Los sistemas expertos producen cientos de operaciones por segundo en transacciones económicas (compraventa de acciones y productos financieros, etc.) y es  imposible que el obligado (la persona que emplea el programa para intervenir en el tráfico) tenga conocimiento exacto de ellas a la misma velocidad a la que se producen.

Ahora bien, en estos sistemas sus parámetros funcionales se encuentran perfectamente delimitados por la introducción de variables por el usuario, por lo que el sistema se limita a ejecutar una orden previamente introducida, por lo que mientras la misma se circunscriba a esos límites considero que no existen problemas en relación a la voluntad negocial de la parte expresada por medios electrónicos.

Podría decirse que la persona automatiza la toma de decisiones y las expresa mediante medios electrónicos, de los que si bien no es consciente en el momento de ejecución, sí lo ha sido al configurar los parámetros.

La problemática de la validez de la declaración de voluntad cuando intervienen sistemas expertos se encuentra perfectamente explicada en este magnífico artículo de Roberto Pinochet Olave.
 
Pero para mí el problema surge en relación a sistemas de agente inteligente, es los que no sólo habría un análisis de determinadas condiciones y acción en función de concurrencia o no de esos valores, sino que estaríamos antes sistemas programados para aprender, analizar y decidir cuales son esos valores óptimos por sí mismos.

Los primeros comprarían o venderían acciones en función de un precio de compra o venta predeterminado; alcanzado el precio se ejecuta la operación. Los segundos analizarían múltiples variables por ellos mismos para determinar el precio de compra o venta y tomarían la decisión de vender no sólo en atención al valor actual sino a consideraciones sobre la evolución presente o futura del valor.

¿Qué pasaría si una aplicación/algoritmo con esta capacidad, que ofreciese productos en una web, hiciese una oferta personalizada a un usuario basándose en miles de parámetros analizados de los datos que dispone sobre él, pero con la que no estuviese de acuerdo la persona responsable de la tienda?

En definitiva, la pregunta es, ¿esos contratos, con declaraciones de voluntad decididas únicamente por un programa/algoritmo, son válidos?

Según nuestro Código Civil se admiten las contrataciones por medios automáticos, así expresamente se señala en el artículo 1262 CC:
"En los contratos celebrados mediante dispositivos automáticos hay consentimiento desde que se manifiesta la aceptación."
Parece evidente que la introducción de este párrafo en el Código, operada por la Ley 34/2002 de Servicios de la Sociedad de la Información, DA 4ª, pretendía amparar los mecanismos de contratación automatizada mediante sistemas expertos, pero ¿alcanza esta modificación a las ofertas y contratos en los que intervienen sistemas de agente inteligente?


En nuestro ordenamiento, para que un contrato se considere válidamente celebrado es necesario el concurso de 3 elementos como son el consentimiento, el objeto y la causa, artículo 1261.

Respecto del objeto, aunque puede haber problemas (la aplicación ofrece cosas que no existen o no estan en el mercado, etc.) siempre serán los menos.Y lo mismo puede decirse de la causa.

A los efectos de la declaración de voluntad estaríamos ante un problema en relación al consentimiento, artículo 1263 CC, de la parte que emite la oferta o acepta la misma, según los escenarios propuestos.

Evidentemente, la doctrina clásica define el consentimiento contractual como el acuerdo de voluntades sobre el objeto y la causa del contrato. Y la voluntad sólo la pueden expresar los sujetos de derecho (personas físicas o jurídicas) aunque para ello empleen medios mecánicos. Así es claro, por ejemplo, el artículo 1254 CC que dice:
"El contrato existe desde que una o varias personas consienten en obligarse, respecto de otra u otras, a dar alguna cosa o prestar algún servicio."

En este caso quien emite la declaración de voluntad (la oferta de contratación) es una máquina, y como tal no puede ser considerada persona (artículos 29 y siguientes CC).

Tenemos por lo tanto un problema de la emisión de la oferta, lo que no quiere decir que no pueda haber consecuencias pues, en principio, habrá una persona responsable de poner a operar el sistema y sería extraño que pudiese desvincularse de todo resultado adverso de la oferta para la contraparte.

La jurisprudencia admitió, en una famosa sentencia de 1935 (STS de 23 de mayo), la posibilidad de que exista vinculación aun cuando una de las partes no tenga verdadera voluntad contractual, así dice el TS que:
"Cuando la disconformidad (entre declaración y voluntad) sea imputable al declarante, por ser maliciosa o por haber podido ser evitada con el empleo de una mayor diligencia, se ha de atribuir pleno efecto a la declaración, en virtud de los principios de de responsabilidad y de protección de la bona fides y a la seguridad del comercio jurídico, que se oponen a que pueda ser tutelada la intención real cuando es viciosa, y a que pueda ser alegada la ineficiencia del negocio por la parte misma que es culpable de haberla producido".
El responsable del sistema, según esta doctrina, no podrá alegar la ineficiencia del negocio, pero se exige que no haya sido posible el empleo de una mayor diligencia. Es difícil decidir si cabe mayor diligencia cuando de la programación resulta capacidad de apredizaje.

Otra vía posible sería la de alegar el error en el consentimiento por parte del oferente, 1265 y siguientes CC, pero esta vía exige que para que resulte invalidante, además de esencial debe ser excusable, remitiéndonos nuevamente al criterio de la existencia de una diligencia media.

Aplicando estos principios se podría proteger al usuario, que vería como se respeta la oferta aun cuando la declaración de la oferta pueda ser considerada no válida por tener su origen en la formación de la voluntad negocial por una máquina.

Recordemos que el 1262 CC concede validez a los contratos desde que se manifiesta la aceptación y, además, se protege la buena fe de quien simplemente ve la oferta sin saber cuales son sus orígenes o que la misma pueda sufrir algún vicio.

Pero esta solución, tendente a aportar seguridad jurídica y protección del tercero, sigue resultando insatisfactoria desde un punto de vista jurídico formal, ya que por más que haya un responsable a quien hacer soportar las consecuencias de una oferta por él no deseada, esta sigue viniendo definida por un elemento no humano y por lo tanto con un vicio de nacimiento, a mi juicio, radical.


Desconozco la utilización de este tipo de sistemas actualmente, aunque intuyo que de no estar ya en funcionamiento no estarán lejos de estarlo, por lo que deberíamos analizar y en su caso, legislar el alcance de las normas tradicionales a estos nuevos supuestos, tal y como se hizo con la modificación del 1262 por medio de la LSSICE.

[disclaimer: un artículo de este tipo da para varias tesis doctorales sobre el análisis de las condiciones de los contratos, el objeto es apuntar un campo, no ser exhaustivo, sean benévolos]

1 comentario:

  1. buena entrada, que buen articulo gracias por la información.

    ResponderEliminar