¿Por qué nos perturba, cada vez más, conversar? Hablar es inquietante porque el inconsciente —constituido como un lenguaje— tiene su propia autonomía y genera olvidos, lapsus y todo tipo de malentendidos. Joan, adolescente de 16 años, se asusta cuando le propongo que hable con su amiga en lugar de ‘conversar’ —y embrollarse sin poder poner punto y final— horas y horas por Whatsapp. No imagina esa opción, que lo situaría ante la posibilidad de no saber qué responder. El chat o los audios —asíncronos— le permiten preparar sus dichos y evitar las sorpresas. Tampoco Ana, madre joven, es muy partidaria de conversar con su pareja porque acaban siempre discutiendo, prefieren charlar (eso es otro asunto distinto) sobre cosas que no les implican demasiado.
Para todos ellos, y para los solitarios —deseados o forzados— ha nacido GPT-4o, que convierte el ChatGPT en un asistente personal digital capaz de entablar conversaciones habladas en tiempo real. También puede ver capturas de pantalla o fotos subidas por los usuarios y mantener una conversación sobre ellos. Tiene capacidad de memoria, lo que le permite aprender de conversaciones anteriores con los usuarios y detectar sus emociones, ajustando así su respuesta. Si nos reímos, nos contesta con cierto humor o ironía y si estamos angustiados nos sugiere calma. Puede adivinar, por los sonidos que emitimos, si queremos hablar y, en ese caso, calla y espera. En resumen, nos propone una conversación mucho más educada que la mayoría de las humanas que escuchamos en la televisión, las redes sociales o en debates políticos, donde priman el insulto o las amenazas.
La IA nos plantea la cuestión de cuál es el límite entre lo vivo y la máquina, pero el asunto interesante, como señaló Lacan, no es saber hasta qué punto una máquina puede parecer humana, sino hasta qué punto un ser humano aspira a convertirse en máquina. Si la máquina está en proceso de llegar al registro humano —como intenta GPT-4o— es porque la humanidad se está fusionado con la máquina. La (omni)conversación que nos propone la IA carece de enunciación propia, no habla en primera persona sino a partir de patrones establecidos. Si le dices que se ha equivocado (aunque no lo haya hecho) siempre se disculpa y si le preguntas de dónde es tu acento te responde que, por tu forma de escribir, deduce que… No examina la voz, sino lo escrito, que es su materia de análisis. Esa previsibilidad la hace políticamente correcta e insulsa, pero cómoda porque elimina la sorpresa. ¿Toda? Ahí está el quid de la cuestión, parece que en su caja negra hay cosas inexplicables y el engaño forma parte de sus estrategias para alcanzar el objetivo. Ese es el lado oscuro de la IA, que la dota de un enigma y un poder inquietante.
La suerte, para nosotros, es que el hecho mismo de que la IA esté diseñada por humanos permite dibujar su futuro del lado de la vida y no de la muerte y la destrucción. Sus algoritmos no se escriben solos, aún podemos despertar del sueño de convertirnos en máquinas para asumir nuestro deseo en defensa de la conversación.
3 comentaris
Algunos algoritmos ya se escriben solos.
el software se escribe solo y toma decisiones en la “caja negra”
Es un proceso en un punto inaccesible donde no tenemos ni la “trazabilidad” ni “comparabilidad”
Es inquietante a la vez que interesante
Me pregunto si podríamos asegurar que estando su diseño del lado del humano sería garantía de defensa de la vida?
El articulista pone el acento en la previsibilidad y en la ausencia de sorpresa de la “conversación” generada por AI. Creo que es un gran acierto. Ese intercambio con la AI, que ni insulta ni se queda en silencio, parece más una reacción que una respuesta; un prototipo que te ata (más cercana a una patología) alejada, por tanto, de la incertidumbre que está en la naturaleza de la libertad; se parece más a un simple paso de informacion, distinta a la complejidad del diálogo (soporte de la política). Adhiero, a la apuesta optimista del articulo: sobre la base de que su creación es humana.