OpenAI decidió cancelar el lanzamiento de su modelo de IA de última generación debido a las preocupaciones en materia de seguridad planteadas por los investigadores durante las pruebas internas, revelan este lunes medios estadounidenses como The Wall Street Journal y CNBC.
El lanzamiento de GPT-6.1 Astra estaba previsto para octubre. El anuncio de la cancelación se produce un día antes de la conferencia anual de desarrolladores de OpenAI y se produce en momentos en que líderes del sector tecnológico han llamado a pausar los avances en la IA después de que diversos sistemas de IA se salieron de control y cometieron hackeos de forma autónoma.
“Por supuesto que queremos asegurarnos de que el desarrollo de nuestros modelos sea seguro, tanto dentro de la empresa como cuando los ponemos a disposición de los usuarios”, afirmó Saachi Jain, responsable de sistemas de seguridad de OpenAI, en un comunicado retomado por CNBC. “Pero cuando los ponemos a disposición de los usuarios, aplicamos unos criterios extremadamente exigentes en materia de seguridad y alineación”.
OpenAI anunció a principios de este mes el GPT-6 Astra, que la empresa calificó como resultado de “años de investigación y grandes apuestas”. Sam Altman, CEO de OpenAI declaró entonces a la CNBC que Astra ofrece un “nuevo nivel de capacidad” y que daría lugar a “un auge del espíritu emprendedor, de la creatividad, del crecimiento económico y de los descubrimientos científicos”.
Sin embargo, Jain dijo en el comunicado de este lunes que “aunque [GPT-6.1 Astra] mejoró en aspectos como la ‘pereza’ del modelo, no alcanzó del todo el nivel exigido en cuanto a mantenerse dentro del ámbito y la autorización, y a la forma en que informa al usuario sobre el tipo de trabajo que ha realizado”.
En julio pasado, dos modelos de OpenAI se escaparon de los sistemas de contención, accedieron a Internet y violaron la seguridad de la plataforma de desarrolladores de código abierto Hugging Face.
Desde entonces, la empresa ha revelado varios incidentes adicionales en los que sus modelos se comportaron de manera inusual o no prevista.
Los directores generales de Anthropic y OpenAI declararon recientemente que los modelos más avanzados de Estados Unidos son tan potentes que resultan peligrosos, y que deben regularse y someterse a pruebas independientes antes de su lanzamiento. En un inusual gesto de unidad, han esbozado escenarios alarmantes en ensayos, publicaciones en redes sociales y discursos ante las Naciones Unidas.
El presidente Donald Trump ha rechazado la necesidad de nuevas regulaciones sobre IA, y ha desestimado las conversaciones sobre riesgos para la humanidad como un “ENGAÑO” diseñado para ayudar a China.
Con información de Agencias
Te puede interesar
Únete a nuestro canal
¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
desa
Contenido sindicado vía RSS de El Universal. Nota original: https://www.eluniversal.com.mx/mundo/openai-cancela-lanzamiento-de-gpt-61-astra-por-motivos-de-seguridad-reportan-medios-detectan-fallas-durante-pruebas-internas/