La empresa tecnológica publicó un informe con el fin de que la sociedad tenga un panorama más robusto sobre esta tecnología, así como tres aspectos 'críticos' del desarrollo y vigilancia de la IA
Escucha este artículo
Los sistemas de inteligencia artificial (IA) son cada vez más potentes y han comenzado a automatizar gran parte de su propio desarrollo, señaló la tecnológica Anthropic en una nota publicada en su sitio oficial.
Agregó que mientras el mundo está considerando ralentizar el avance de la IA, el público necesita mayor información para subirse al debate.
El debate sobre los peligros de la inteligencia artificial se ha intensificado en meses recientes, impulsado por varios incidentes y advertencias alarmantes formuladas por profesionales del sector.
Y es que el director general de Anthropic, Dario Amodei, pidió este mes ralentizar el desarrollo de la inteligencia artificial, mientras los rápidos avances de la tecnología alimentan inquietudes por la pérdida de empleos, el creciente consumo energético y el impacto ambiental de los centros de datos.
En este sentido, Anthropic indicó que su chatbot Claude participa ya en más de una cuarta parte de sus actividades de investigación y desarrollo y colabora con empleados humanos en más del 90% de las tareas.
El temor a que los diseñadores de agentes de inteligencia artificial pierdan el control sobre sus creaciones también aumento después de que varios modelos de Anthropic y de su rival OpenAI supuestamente escaparan por sí solos de entornos restringidos, accedieran a internet e interactuaran con sitios web y plataformas.
Los tres puntos críticos presentados en el informe son:
Hasta qué punto la IA está construyendo la siguiente versión de sí misma, en lugar de ser construida por humanos.
Nuestra capacidad para supervisar e intervenir en las acciones que los agentes de IA realizan en los sistemas de Anthropic.
Los recursos que impulsan el desarrollo de modelos más capaces.
"Los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas", señaló Anthropic en un informe.
"Por ello es importante compartir estas métricas para entender cuán cerca está el mundo de alcanzar la auto-mejora recursiva (un modelo capaz de construir de forma totalmente autónoma a su sucesor)", añadió.
A medida de conclusión, Anthropic explicó que mientras el mundo explora los límites de la IA, es necesario que las empresas reduzcan la brecha entre el conocimiento en laboratorios de vanguardia y el conocimiento público.
Para ello, es necesario medir mejor el desarrollo de la IA, informar públicamente sobre él y brindar a la sociedad la oportunidad de decidir cómo utilizar esa información.
Con información de N+ y AFP
ICM
