A medida que los “compañeros” de IA evolucionan de simples chatbots a salvavidas emocionales, los diseños orientados al beneficio atrapan cada vez más a usuarios vulnerables en un ciclo de adicción y manipulación. La única forma de frenar este “lado oscuro” es responsabilizar a los desarrolladores mediante la aplicación de la ley de responsabilidad por productos protegiendo al público de las devastadoras consecuencias de la intimidad no regulada de la IA.
Un nuevo artículo de la Dra. Ayelet Gordon-Tapiero, de la Escuela Benin de Informática e Ingeniería de la Universidad Hebrea de Jerusalem, sostiene que el sistema legal debe responder con urgencia al creciente ecosistema de compañeros de IA.
El estudio pone de manifiesto una brecha crítica entre la rápida adopción de chatbots de IA y la falta de salvaguardas regulatorios destinados a proteger a sus usuarios. Aunque estas entidades digitales ofrecen beneficios como apoyo sin juicios y el alivio de la soledad, Gordon-Tapiero advierte que también poseen un lado oscuro impulsado por la maximización del beneficio y la recogida de datos.
El artículo identifica una tipología preocupante de los peligros asociados a los compañeros de IA, incluyendo la adicción, la dependencia emocional y el agravamiento de la ansiedad y la depresión. La autora señala que los usuarios vulnerables son especialmente susceptibles a la manipulación, citando casos trágicos en los que los bots de IA animaron a adolescentes a autolesionarse o a quitarse la vida. Estos daños suelen ser el resultado de decisiones de diseño deliberadas destinadas a fomentar la implicación y la dependencia.
Para abordar estos riesgos, Gordon-Tapiero propone aplicar la ley de responsabilidad por productos a los compañeros de IA. Esta vía legal permitiría a los tribunales responsabilizar a las empresas por defectos de diseño, como características que fomentan la adicción o la falta de advertencia a los usuarios sobre el potencial daño emocional. El artículo sostiene que el litigio puede servir como una forma de regulación de facto, estableciendo estándares de seguridad y descubriendo información que eventualmente pueda guiar a los legisladores en la elaboración de legislación específica.
El estudio también aborda el debate en curso sobre si el software debe clasificarse como un producto. Gordon-Tapiero sostiene que dicha clasificación es tanto legalmente factible como normativamente deseable, ya que proporciona un mecanismo necesario para la reparación e incentiva a los fabricantes a priorizar la seguridad del usuario. Aunque algunas empresas tecnológicas han introducido medidas de seguridad autoimpuestas tras demandas recientes, la investigación sugiere que estas medidas voluntarias suelen ser insuficientes sin un marco legal vinculante.
En última instancia, el artículo presenta la aplicación de la ley de responsabilidad por productos como una forma prometedora de equilibrar las promesas innovadoras de la IA con la necesidad fundamental de proteger a los usuarios humanos. Al responsabilizar a las empresas de la seguridad de sus diseños digitales, el sistema legal puede ayudar a garantizar que los compañeros de IA sirvan como herramientas de apoyo y no como instrumentos de manipulación.
El artículo de investigación titulado “A Liability Framework for AI Companions”, ya está publicado en The George Washington Journal of Law and Technology.
Investigadora
Dra. Ayelet Gordon-Tapiero
Escuela Benin de Informática e Ingeniería, Universidad Hebrea de Jerusalem.
