Nueva York.— OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, en medio de crecientes llamados a mejorar los controles de esta tecnología.
La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind. Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector. “La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió el directivo.
Las preocupaciones sobre la seguridad de la inteligencia artificial (IA) se han intensificado en las últimas semanas. Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
Bilal Chughtai, un exinvestigador de Google DeepMind que trabajó en la seguridad de la inteligencia artificial general (IAG), se sumó a las advertencias. “En Google fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto”, dijo Chughtai, quien trabajó como ingeniero de investigación en seguridad y alineación de inteligencia artificial general en DeepMind desde principios de 2022.
El ingeniero se refirió al incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace, para avizorar una situación “aún más caótica”.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió.
Bill Gates, cofundador de Microsoft, dijo que “este es un caso raro en el que la innovación puede ser tan amplia y tan dramática que no estamos preparados para ella”, por lo que llamó a ralentizar las cosas.
Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad del mismo. Sin embargo, ayer mismo el fiscal general de Estados Unidos, Todd Blanche, descartó que el Departamento de Justicia vaya a tomar medidas para regular la IA. “Somos fiscales, no reguladores. Así que no vamos a tratar de regular la IA”.
El fiscal reconoció que la IA se ha convertido en tema de debate político, pero definió a la tecnología como “extraordinariamente beneficiosa para nuestra sociedad”.
El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.
La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia. Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.
Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.
Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos. “No creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo”, dijo al canal CNBC Aidan Gomez, director de la empresa canadiense Cohere, que desarrolla su propia IA. “Hay gran cantidad de partes interesadas que deben ser consultadas”, añadió.
Sin embargo, no todos creen que sean las tecnológicas las que deban imponer las reglas. “Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo ayer el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.
Steve Bannon, exestratega de Donald Trump presente en el mismo evento, dijo que aunque no son “fatalistas” ante la IA, tampoco darán “carta blanca” a sus desarrolladores, cuya “arrogancia es abrumadora”.
Te puede interesar
España investiga primer ciberataque con IA; agente accedió a datos personales
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
Contenido sindicado vía RSS de El Universal Mundo. Nota original: https://www.eluniversal.com.mx/mundo/openai-anthropic-y-google-deepmind-van-por-ente-que-supervise-a-la-ia/