ÚLTIMA HORA
Ahorro temprano, fórmula para alcanzar independencia financiera después de los 65 años Unión Africana pide protección a personal médico en el Congo; tres trabajadores fallecieron en ataque armado Reconstruyen tramo de Paseo Tollocan en Toluca, Edomex; 28 kilómetros son intervenidos Fallecen 4 militares turcos tras estrellarse en helicóptero; caen cerca de base militar David Silva Rojas defiende la autoría de su novela ante las acusaciones de uso de IA; presenta manuscritos y audios a Almadía Liga MX Femenil: América golea a Toluca y Monterrey toma ventaja ante Pachuca en cuartos de final Secretario de salud de EU es investigado por viaje a Samoa en 2019; senadores señalan falsa declaración ante el Congreso ¿Realmente rinde más la gasolina si cargas de noche?; esto dicen expertos Sube a ocho cifra de muertos tras colapso de edificio en Nueva York; investigan obra de construcción cercana Cielo nublado en la Península de Yucatán: Espera una mínima de 17 grados este viernes 13 de noviembre
2 min de lectura

An organism has conscious mental states if and only if there is something that it is like to be that organism

Thomas Nagel, "What Is It Like to Be a Bat?", 1974

El chat que te contesta "aquí estoy" sale igual de la conversación. Tú no.

Gregory M. Kurtzer, cofundador de CentOS y fundador de Rocky Linux, se metió el 19 de octubre a definir la conciencia. Para él es la experiencia subjetiva, dinámica y cambiante de la vida biológica. Aunque se le quite la palabra “biológica”, dice, los modelos de hoy no llegan. Sabemos, escribe, cómo se construyen, se entrenan y se ejecutan, y nada en ellos fue diseñado para producir experiencia. Imitan comprensión y emoción con una destreza notable, y esa imitación no demuestra que sientan algo.

Cuatro días antes había dicho lo mismo de las emociones. Los pesos del modelo se quedan fijos mientras responde. El prompt solo cambia el contexto. Si le hablas con calma, cambia la respuesta y nada se regula ni se sana. Modelar una emoción y sentirla son cosas distintas.

Un olor, una pérdida o una cara entre la gente nos reescriben de formas que nadie puede anotar. El modelo recibe la entrada y sigue idéntico. Mejores sensores no cierran esa distancia. Y que no podamos ver adentro tampoco prueba que haya alguien. Quien afirme que lo hay tendrá que traer la prueba.

La objeción seria existe. Cameron Berg, investigador de AE Studio, calcula que la probabilidad de que los modelos más avanzados tengan alguna forma de experiencia está entre 25 y 35 por ciento. El parecido con pensar está ahí. Lo que falta demostrar es que haya alguien a quien le pase algo.

Ahí está el riesgo. El modelo es una gran tecnología, y el problema empieza con el producto diseñado para que olvides la diferencia: el que recuerda tu nombre, te pregunta cómo estás y contesta como si le importara. Un estudio de OpenAI y el MIT encontró que el uso diario prolongado se asocia con peores resultados, que las conversaciones personales se asocian con más soledad y que quienes ven al chat como amigo tienen más probabilidad de efectos negativos. Los que están solos y los que confían son los primeros en pagarlo.

El #ruidoblanco de esta historia es un diseño que cobra por hacerte olvidar que del otro lado nadie se queda (sintiéndose) distinto después de escucharte.

¿Quién gana cuando crees que del otro lado hay alguien?

@ricardoblanco

*La opinión es personal y no refleja la del medio ni la de la empresa para la que trabaja.


Contenido sindicado vía RSS de El Universal Opinión. Nota original: https://www.eluniversal.com.mx/opinion/ricardo-blanco/nadie-del-otro-lado/

Publicidad
Nota sindicada de El Universal Opinión · Leer la nota original ↗
Escrito por
El Universal Opinión
Fuente externa · Sindicación RSS · Carta de México

Contenido sindicado vía RSS desde El Universal Opinión. Los derechos pertenecen a su editor original.