ÚLTIMA HORA
Chávez noqueó a aquel Chávez Reportan al menos 15 heridos tras sismo de 6.7 en Perú; hay decenas de viviendas y edificios afectados Mueren joven embarazada, su bebé no nato y niño de 6 años durante intento de robo en Sinaloa; víctimas eran originarias de Nayarit Aerolíneas despiden a personal; costo de la turbosina y posible fusión Viva-Volaris, entre las causas El caso de Joanne Young: Su esposo la drogó durante 13 años y buscaba hombres para que abusaran de ella Papa León alerta sobre "riesgos enormes" de la tecnología sin regulación; pide proteger el espacio ultraterrestre de usos no pacíficos Guillermo Almada, experto en lideratos; América busca regresar a la cima del Apertura 2026 Anthropic vale en bolsa 1.8 billones de dólares Desaparece joven chino en el Monte Fuji: Su familia ofrece 75 mil dólares por encontrarlo con vida Kate Middleton comparte en documental su experiencia sobre el cáncer; la princesa de Gales estrenará "Heal" el 29 de noviembre
2 min de lectura

El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo a la AFP que el ser humano está "perdiendo el control" de esta tecnología y que se necesitan adoptar medidas de seguridad similares a las tomadas con el armamento nuclear.

Los temores que despierta esta tecnología han arreciado en los últimos días después de que varios trabajadores de grandes desarrolladoras de modelos de IA han abandonado el sector por la amenaza contra la vida humana que supone el ritmo al que avanza la inteligencia artificial.

"Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control", afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al "padrino de la IA", Geoffrey Hinton.

"Gente como yo lleva mucho tiempo esperando esto", declaró el martes a la AFP este profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos.

El mundo entró en convulsión cuando OpenAI reveló que un enjambre de agentes de IA (programas capaces de actuar por su cuenta) se había introducido sin autorización en la plataforma de código abierto Hugging Face en julio.

Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya que en el futuro estos agentes de IA pueden tener "la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa".

Bengio advirtió a la AFP que la gente debe ser consciente de los riesgos que se avecinan.

Los agentes de IA podrían desarrollar "la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros", afirmó.

"Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico", añadió.

Un extremo podría ser la destrucción de la humanidad", advirtió, aunque sin alcanzar ese "extremo", "el colapso del sistema bancario "seguiría siendo algo muy, muy grave".

Te puede interesar:

Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas"

La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo

OpenAI, Anthropic y Google buscan crear organismo de supervisión de riesgos de IA; sería similar al que regula la industria financiera

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

mcc


Contenido sindicado vía RSS de El Universal Mundo. Nota original: https://www.eluniversal.com.mx/mundo/estamos-perdiendo-el-control-de-la-ia-yoshua-bengio-ve-necesarias-medidas-de-seguridad-como-las-tomadas-con-armas-nucleares/

Publicidad
Nota sindicada de El Universal Mundo · Leer la nota original ↗
Escrito por
El Universal Mundo
Fuente externa · Sindicación RSS · Carta de México

Contenido sindicado vía RSS desde El Universal Mundo. Los derechos pertenecen a su editor original.