Un tribunal en Alemania ha dictado una sentencia preliminar que atribuye a Google la responsabilidad por las afirmaciones realizadas por sus modelos de inteligencia artificial en las respuestas generadas automáticamente. Este fallo podría tener importantes repercusiones para el sector de la IA, destacando la cuestión de la responsabilidad en caso de errores costosos cometidos por sistemas de inteligencia artificial.
La sentencia se produjo en el contexto de una demanda presentada por dos empresas que argumentaban que los resultados de AI Overviews de Google las describían erróneamente como estafas, a pesar de que no lo eran. Según el fallo, las afirmaciones realizadas por la IA de Google incluían información no mencionada en las páginas web de origen, lo que llevó al tribunal a concluir que “estas son afirmaciones únicas inventadas por la herramienta de IA de Google”, por las cuales la empresa “debe aceptar responsabilidad”.
Este caso subraya la necesidad de establecer un marco claro sobre la responsabilidad de las empresas tecnológicas en relación con sus sistemas de inteligencia artificial, un tema que sigue sin resolverse en el ámbito legal europeo.