ÚLTIMA HORA
Telcel pide disculpa "por las molestias"; asegura que falla fue por trabajos de incremento de capacidad Alcalde de Nueva York propone cierre de prisión en Rikers Island: ¿Qué famosos pasaron por sus celdas? La genealogía de los pandas de Chapultepec: la historia de la familia de Xin Xin Sedema CDMX invita a nueva edición del Reciclatrón; recibirán residuos eléctricos y electrónicos Impugnará Fuerza Migrante casos para proteger derechos electorales de los mexicanos migrantes Grynspan recibe dos vetos en otro sondeo de aspirantes a liderar la ONU; no hay consenso Ford reabre planta en Canadá en plena guerra comercial entre Ottawa y Washington; supone el regreso de más de 2 mil empleados Ellos son "El Pez" y "El Fresa", líderes de La Nueva Familia Michoacana; están en la mira de EU por narcotráfico ¡Pagan 246 pesos la hora! Buscan trabajador del campo en Canadá sin estudios Se registra sismo de 6.9 en Los Andes, Perú; no se reportan daños o víctimas al momento
3 min de lectura

Los dos modelos de inteligencia artificial (IA) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas, según el creador de ChatGPT.

Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI.

La firma no ha revelado los nombres de las entidades afectadas.

Según una actualización del informe del incidente publicada en la noche del martes, las dos IA también utilizaron varios sitios de acceso libre para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente.

Lee también Sam Altman sugiere frenar desarrollo de la IA tras hackeo que involucra a OpenAI; debe evitar que se favorezca a algunos grupos

Modelos de OpenIA intentaron "hacer trampa" en evaluación

Para Hugging Face, que por su parte publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un "intento (de los dos modelos) de hacer trampa en la evaluación" de OpenAI.

Las IA quisieron "robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas".

Esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha. Ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.

El martes, más de mil empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al gobierno estadounidense que ayude a "frenar" la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse.

Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.

Lee también OpenAI reporta hackeo de su propia IA, por sí sola, a otra empresa; un "incidente cibernético sin precedentes", dice

El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la "automejora recursiva" (recursive self-improvement), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.

El "RSI", su abreviatura, haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo.

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

mcc


Contenido sindicado vía RSS de El Universal Mundo. Nota original: https://www.eluniversal.com.mx/mundo/openai-afirma-que-hackeo-de-uno-de-sus-modelos-de-ia-incluyo-a-otras-plataformas-serian-al-menos-4/

Publicidad
Nota sindicada de El Universal Mundo · Leer la nota original ↗
Escrito por
El Universal Mundo
Fuente externa · Sindicación RSS · Carta de México

Contenido sindicado vía RSS desde El Universal Mundo. Los derechos pertenecen a su editor original.