Expertos de ambas empresas tecnológicas alertaron que la inteligencia artificial puede generar audios y videos con mejor calidad que sería difícil de detectar en un juicio
Escucha este artículo
Expertos en tecnología de OpenAI y Meta Platforms META.O lanzaron una advertencia a un comité judicial federal de Estados Unidos, al alertar que los "ultrafalsos" de audio y video generados por la inteligencia artificial (IA) son cada vez más sofisticados y que resultará cada vez más difícil determinar la autenticidad.
Durante una reunión celebrada en Boston del Comité Asesor sobre Normas Probatorias de la Conferencia Judicial de Estados Unidos, representantes de las empresas debatieron sobre cómo controlar los riesgos de las pruebas falsificadas generadas por IA en los tribunales.
Advirtieron que los videos falsificados se han vuelto difíciles de detectar tanto para las personas como para el software.
"Las imágenes generadas por IA no dejan de mejorar, y no creo que en el futuro exista una forma científica de detectarlas", dijo Shira Anderson, asesora de políticas de OpenAI.
Desde 2023, el comité debate cómo abordar los problemas de autenticación relacionados con los "ultrafalsos" y busca garantizar que las pruebas que se sabe que han sido generadas por IA cumplan los mismos estándares de fiabilidad que las pruebas aportadas por un perito humano.
Por su parte, el Centro Federal del Poder Judicial, el órgano de investigación del poder judicial, señaló en marzo que, de los 931 jueces que respondieron a una encuesta, solo 15 se habían enfrentado a un caso en el que una parte litigante impugnó una prueba por tratarse de un "ultrafalso".
"Hay muchos comentarios académicos y de otro tipo que predicen que los tribunales tendrán que lidiar con los ultrafalsos, pero, en realidad, aún no hemos visto muchos casos de este tipo", dijo el juez federal de distrito de Manhattan Jesse Furman, que preside el panel.
Expertos del sector, del ámbito académico y del gobierno advirtieron de que la cuestión dista mucho de ser puramente hipotética. Afirmaron que la capacidad de los tribunales para actuar como filtros frente a las pruebas falsificadas generadas por IA solo va a ser cada vez más complicada.
"Los contenidos multimedia generados a partir de modelos de vanguardia, al menos en las últimas generaciones, son indistinguibles para los seres humanos de los contenidos auténticos o generados por IA", dijo Devin Norder, director de gestión de productos de Meta. "Y el costo y el tiempo que lleva crear estos contenidos son realmente insignificantes en este momento".
Empresas como OpenAI y Meta han tratado de adoptar herramientas y servicios destinados a verificar la validez del contenido visual, y las nuevas leyes de California y la Unión Europea exigen el uso de "marcas de agua" para detectar los ultrafalsos.
TLS
