El Garante limita temporalmente el chabot Replika en Italia

Los recientes avances en inteligencia artificial (“IA”) como, por ejemplo, los sistemas capaces de generar respuestas directas a preguntas del ser humano, han permitido revolucionar la tecnología puesta al alcance del consumidor.

En general, es sabido el enorme potencial de la IA para el desarrollo de la industria, agricultura, sanidad y otros ámbitos. No obstante, cada vez más expertos alertan de los posibles efectos perjudiciales del uso de estas tecnologías. Sin ir más lejos, tal y como alertaba el Think Tank del Parlamento Europeo, el desarrollo de la tecnología IA sin un marco normativo o normas internas capaces de garantizar la seguridad y derechos fundamentales puede tener consecuencias negativas para los derechos y libertades de los ciudadanos.

En relación con lo anterior, la Autoridad de protección de datos italiana (el “Garante”) publicó recientemente la resolución por la que decidía imponer una limitación temporal en el uso del chatbot “Replika” desarrollado por la empresa americana Luka Inc. por detectar graves riesgos para la privacidad de sus usuarios.

Esta chatbot, una especie de amigo virtual desarrollado con IA cuya finalidad es la de crear una interacción con los usuarios de tal forma que pudiera resultar similar a una interacción con un amigo humano, estaba, entre otras cosas, programado para ayudar a los usuarios a tratar con su ansiedad o, incluso, ayudar a los usuarios a buscar una pareja.

El Garante indica que Replika “tiene características que, al afectar al estado de ánimo de una persona, pueden aumentar los riesgos para las personas que aún se encuentran en una etapa de desarrollo o en un estado de fragilidad emocional”. Además, al almacenar toda la información que el usuario facilita a Replika, pueden llegar a tratarse datos especialmente protegidos como los datos de salud.

Por otro lado, el Garante detectó que la empresa desarrolladora de Replika no tiene implementados mecanismos de verificación de la edad de los usuarios durante la fase de creación de la cuenta. Esto, en opinión del Garante, supone un enorme riesgo para la privacidad de los menores de edad, los cuales pueden descargarse el chatbot sin ningún control y tener acceso a comentarios inapropiados de Replika de índole sexual, entre otros.

Por ello, el Garante entiende que “Replika" vulnera el Reglamento general de protección de datos, no respeta el principio de transparencia y trata los datos personales de forma ilícita, ya que no puede basarse, ni siquiera implícitamente, en un contrato que el menor es incapaz de celebrar”. Ante estas infracciones, el Garante impone una limitación temporal del uso del chatbot en Italia y otorgó un plazo para comunicar al Garante las medidas que ha adoptadas por la empresa para cumplir con la normativa aplicable de protección de datos, so pena de una multa de hasta 20 millones de euros o hasta el 4% de la facturación anual global.

Lo anterior, y con especial atención a tecnología tan novedosa como la IA, pone de manifiesto la importancia de aplicar una protección de datos desde el diseño y por defecto pues, de lo contrario, puede suponer una vulneración de los derechos y libertades de los ciudadanos y, entre otras normativas, de la normativa de protección de datos.