Las cuatro preguntas principales que debes responder antes de utilizar un chatbot con IA en tu sitio web

¿Debería utilizar un chatbot con IA en mi sitio web?

Los chatbots con IA integrados en las páginas web de las empresas pueden resultar de gran ayuda. Sin embargo, también pueden acarrear gastos enormes, problemas e incluso demandas judiciales si no se implementan correctamente. En este artículo, analizaremos las cuatro preguntas principales que debes responder antes de incorporar un chatbot con IA a tu página web.

1. ¿Qué les estoy diciendo a mis clientes?

Una parte fundamental de la práctica de Web3 de nuestro bufete es la redacción de políticas para sitios web: desde políticas de privacidad hasta condiciones de uso, pasando por políticas y condiciones de los chatbots con IA. Según nuestra experiencia, muchas empresas se lanzan de cabeza a adoptar una nueva tecnología sin contar con las políticas necesarias, lo que puede acarrear problemas graves y costosos.

Algunas empresas empeoran aún más su situación al retirar sus políticas de la web, cambiar el nombre y, a continuación, publicar en su propia página web las políticas de otra empresa. Ojalá fuera una broma, pero esto ocurre con más frecuencia de lo que te imaginas, y puede acarrear —y de hecho suele acarrear— consecuencias devastadoras.

Por ejemplo, ¿qué probabilidades hay de que tu empresa tenga exactamente las mismas prácticas de privacidad que otra? ¿Un cinco por ciento? A menos que una política refleje tus prácticas empresariales reales, utilizar la política de la página web de otra empresa es como ir en busca de problemas legales. Y créeme, hay un mercado enorme de abogados demandantes que estarían más que dispuestos a presentar una demanda.

Lo primero que deben hacer las empresas que utilizan chatbots con IA —o, de hecho, cualquier empresa que tenga una página web— es establecer una buena política o un conjunto de condiciones. Y para hacerlo de forma adecuada, primero hay que llevar a cabo algunas acciones.

2. ¿Te meterá en un buen lío el chatbot con IA?

Probablemente hayas leído sobre el reciente escándalo relacionado con Google Gemini, que, según se informa, provocó que las acciones de Google perdieran 70 000 millones de dólares de valor. Quizá incluso hayas oído hablar de casos como el del chatbot con IA de Old Navy, acusado de realizar escuchas ilegales. Dejando a un lado algunos de los casos y acusaciones más sonados, sigue habiendo muchas formas en que los chatbots con IA pueden generar resultados problemáticos y causarte daño. Entre los ejemplos se incluyen cosas como:

• Realizar declaraciones difamatorias que puedan atribuirse al administrador del sitio web.
• Proporcionar instrucciones incorrectas sobre cómo utilizar un producto o servicio.
• Inventarse cosas. Al parecer, esto ocurre muy a menudo. ¡Al parecer, hasta los abogados se dejan engañar!

Este tipo de cosas pueden parecer insignificantes, pero pueden tener consecuencias bastante graves. Por ejemplo, según se ha informado, OpenAI fue demandada por difamación cuando ChatGPT supuestamente generó una denuncia falsa en la que se acusaba a alguien de malversación. Imagínate lo que pasaría si un usuario pidiera a un chatbot de IA instrucciones sobre cómo utilizar tu producto, recibiera instrucciones incorrectas o incompletas y, como consecuencia, resultara herido o sufriera algún perjuicio.

Incluso las empresas de IA parecen reconocer la posibilidad de que los resultados generados por la IA puedan causar problemas. Las condiciones de servicio de Anthropic (Claude.ai) de febrero de 2024 establecen lo siguiente:

Confianza en los resultados. La inteligencia artificial y los grandes modelos de lenguaje son tecnologías de vanguardia cuya precisión, fiabilidad y seguridad siguen mejorando. Al utilizar nuestros Servicios, usted reconoce y acepta lo siguiente:

1. 1. Es posible que los resultados no siempre sean precisos y que contengan inexactitudes importantes, incluso aunque parezcan correctos debido a su nivel de detalle o especificidad.

   2. No debes fiarte de ningún resultado sin haber comprobado antes su exactitud por tu cuenta.

   3. Es posible que los Servicios y cualquier resultado no reflejen información correcta, actualizada o completa.

   4. Los resultados pueden contener contenido que no se ajuste a las opiniones de Anthropic.

La cuestión es que las herramientas de IA distan mucho de ser perfectas. Las empresas que deseen implementar chatbots con IA deben ser conscientes de los posibles riesgos y pensar en formas de mitigarlos. Algunas técnicas de mitigación pueden ser de carácter técnico, como asegurarse de que el chatbot con IA solo ofrezca respuestas limitadas. Otras técnicas de mitigación podrían incluir políticas exhaustivas sobre los chatbots con IA y avisos legales.

3. ¿A quién pertenece el contenido generado por el chatbot con IA?

Cuando alguien introduce una consulta en un programa de IA («entrada»), recibe una respuesta («salida»). ¿Es el usuario el propietario de la salida? ¿Y de la entrada? La respuesta puede depender en gran medida del tipo de herramienta de IA que se utilice. Y si el usuario es el propietario, ¿quién más puede utilizarla?

Por ejemplo, las condiciones de uso de OpenAI de enero de 2024 establecen que «En la relación entre usted y OpenAI, y en la medida en que lo permita la legislación aplicable, usted (a) conserva sus derechos de propiedad sobre los datos de entrada y (b) es propietario de los resultados. Por la presente, le cedemos todos nuestros derechos, títulos e intereses, si los hubiera, sobre los resultados». Esto suena muy bien: el usuario es propietario de sus entradas y se le cede la propiedad de las salidas. Pero espera: la política continúa diciendo que «Podemos utilizar el Contenido para proporcionar, mantener, desarrollar y mejorar nuestros Servicios, cumplir con la legislación aplicable, hacer cumplir nuestros términos y políticas, y mantener la seguridad de nuestros Servicios». De hecho, un usuario que no desee que su «Contenido» se utilice para entrenar modelos de IA tiene que optar expresamente por no participar.

Analicemos las condiciones de servicio de Anthropic citadas anteriormente. Al igual que en las condiciones de OpenAI, la política de Anthropic establece lo siguiente: «En lo que respecta a la relación entre usted y Anthropic, y en la medida en que lo permita la legislación aplicable, usted conserva cualquier derecho, título e interés que tenga sobre las indicaciones que envíe. Siempre que cumpla con nuestras Condiciones, le cedemos todos nuestros derechos, títulos e intereses —si los hubiera— sobre los Resultados». Pero a continuación añaden:

Nuestro uso de los Materiales.Podemos utilizar los Materiales para prestar, mantener y mejorar los Servicios, así como para desarrollar otros productos y servicios. No entrenaremos nuestros modelos con ningún Material que no esté disponible públicamente, salvo en dos casos:

1. Si nos envía comentarios (a través de los Servicios o por cualquier otro medio) sobre cualquier Material, podremos utilizar dichos comentarios de conformidad con la sección 5 (Comentarios).
2. Si tus Materiales son seleccionados para una revisión de confianza y seguridad, podremos utilizarlos o analizarlos con el fin de mejorar nuestra capacidad para detectar y sancionar las infraccionesde la Política de uso aceptable, lo que incluye el entrenamiento de modelos para su uso por parte de nuestro equipo de confianza y seguridad, en consonancia con la misión de seguridad de Anthropic.

¿Qué significa «dar tu opinión»? Pues bien, la política dice lo siguiente (negrita añadida):

Agradecemos los comentarios, incluidas las ideas y sugerencias de mejora o la valoración de un resultado en respuesta a una solicitud («Comentarios»). Si valoras un resultado en respuesta a una solicitud —por ejemplo, utilizando el icono de «Me gusta» o «No me gusta»—, almacenaremos la conversación relacionada como parte de tus Comentarios. No tienes ninguna obligación de enviarnos Comentarios, pero si lo haces, aceptas que podamos utilizar los Comentarios como consideremos oportuno sin ninguna obligación ni pago alguno hacia ti.

Según mi interpretación de esta política, el simple hecho de dar un «me gusta» o un «no me gusta» podría considerarse «comentario», y Anthropic podría utilizar los materiales relacionados.

¿Por qué es importante todo esto? Pues bien, si alguien utiliza la IA para generar contenidos que desea comercializar, es posible que la empresa de IA que proporciona el programa tenga condiciones que limiten o restrinjan dicha comercialización (dejando de lado cuestiones complejas relacionadas con las leyes de derechos de autor). Además, es posible que los usuarios hayan aceptado una licencia efectiva sobre los contenidos generados a favor de la empresa que proporciona el programa de IA. También existen posibles preocupaciones en materia de privacidad. Si un usuario introduce información confidencial o protegida por las leyes de privacidad y, de repente, se da cuenta de que no ha concedido a un tercero una licencia sobre dicha información.

Las empresas que implementen chatbots con IA deberían plantearse estrategias de mitigación de riesgos (véase el punto 2 anterior) y estudiar detenidamente las condiciones de cualquier empresa de IA cuyos programas tengan intención de utilizar o incorporar.

4. ¿Debería preocuparme por cuestiones relacionadas con la privacidad y la confidencialidad de los datos?

Sí, y por las mismas razones expuestas en el apartado 3 anterior. También en este caso podrían aplicarse muchas de las mismas estrategias de mitigación de riesgos. Incluso antes de la era de la IA, muchos sitios web incluían avisos en los que se prohibía a los usuarios facilitar información confidencial o protegida por la legislación sobre privacidad a través de un sitio web o por correo electrónico. Sin embargo, en la era de la IA, este tipo de avisos han cobrado una importancia mucho mayor.

Conclusión

Los chatbots con IA aún tienen un largo camino por recorrer antes de alcanzar el nivel de sofisticación necesario para implementarlos sin grandes preocupaciones. Las empresas que deseen integrarlos en sus sitios web deben ser conscientes de los riesgos que entrañan y desarrollar herramientas para mitigarlos. De lo contrario, podrían encontrarse entre los primeros demandados en la próxima era de litigios relacionados con la IA.