El psicólogo que advirtió sobre el poder de Facebook ahora dice que la IA entenderá a los humanos mejor que ellos mismos
«Los humanos no simulamos la personalidad, la tenemos «, afirma, “así que estoy atrapado en mi personalidad. Estas cosas modelan la personalidad”. Cuando le digo a Kosinski que suena como si estuviera describiendo a un sociópata, se ilumina. «Un sociópata puede ponerse una máscara: en realidad no está triste, pero puede hacerse pasar por una persona triste». Este poder camaleónico podría convertir a la IA en un estafador superior. Con cero remordimientos.
Aravind Srinivas creció en la misma ciudad que Sundar Pichai y desarrolló una obsesión por la empresa mucho antes de lanzar su propia startup de búsqueda por IA.
Algunos psicólogos investigadores han cuestionado las afirmaciones de Kosinski. En respuesta a un preprint que Kosinski había publicado en Arxiv a principios de 2023, un grupo de investigadores de IA escribió un artículo sugiriendo que en realidad estaba observando a un «Clever Hans», en referencia a ese famoso caballo de principios del siglo XX por el que la gente fue engañada. El caballo (o mejor, su dueño) les hacía creer que podía hacer matemáticas y seguir un calendario. Según Vered Shwartz, profesor adjunto de informática en la Universidad de Columbia Británica y uno de los coautores del estudio, «los LLM pueden tener cierta capacidad de razonamiento, pero no es completa ni robusta como la de los humanos». «Hicimos muchas pruebas distintas, y desde luego no podemos afirmar que los modelos lingüísticos tengan la misma capacidad [de teoría de la mente] que las personas. Y podría ser que simplemente hicieran trampas».
Shwartz se refiere al hecho de que, dado que los LLM se entrenan con enormes corpus de información, algunos de ellos contienen inevitablemente artículos académicos publicados en los que se discuten experimentos similares a los que realizó Kosinski. GPT-4 podría haber recurrido a su vasto material de formación para encontrar las respuestas. El escéptico en jefe de AI, Gary Marcus, descubrió que las pruebas que utilizó Kosinski también se emplearon en experimentos clásicos que habían sido citados en artículos científicos más de 11.000 veces. Es como si los LLM hubieran memorizado información para fingir tener teoría de la mente. Para mí, dicho sea de paso, este atajo a sangre fría hacia la cognición, de ser cierto, es aún más aterrador que los LLM adquiriendo teoría de la mente de forma emergente).
Kosinski afirma que el trabajo realizado para esta última versión del artículo aborda esas críticas. Además, recientemente se han publicado otros artículos que parecen reforzar sus afirmaciones, incluido uno en Nature Human Behavior en el que se constata que tanto GPT-3.5 como el GPT-4, aunque no tienen éxito en todas las tareas de teoría de la mente, «muestran un rendimiento impresionante» en algunas de ellas y «superan el nivel humano» en otras. En un correo electrónico, el autor principal, James Strachan, investigador postdoctoral del Centro Médico Universitario de Hamburgo-Eppendorf, no afirma que los LLM dominen por completo la teoría de la mente, pero afirma que su equipo refutó la acusación de hacer trampas. «Parece que estas habilidades van más allá de simplemente regurgitar los datos utilizados para entrenar a los LLM», afirma, y que «es posible reconstruir una gran cantidad de información sobre los estados mentales humanos a partir de las estadísticas del lenguaje natural».
Soy agnóstico sobre si los LLM lograrán una verdadera teoría de la mente. Lo que importa es si se comportan como si tuvieran esa capacidad, y sin duda están en camino de conseguirlo. Incluso Shwartz, que rechazó algunos de los métodos de Kosinski, admite que es posible. «Si las empresas siguen perfeccionando los modelos lingüísticos, quizá en algún momento lleguen a tener [teoría de la mente]», afirma.
Por eso merece la pena escuchar a Kosinski, a pesar de las duras críticas a su trabajo. Atendamos la conclusión de su artículo: «es poco probable que la Teoría de la Mente sea la cúspide de lo que las redes neuronales pueden lograr en este universo», escribe. “Puede que pronto estemos rodeados de sistemas de IA equipados con capacidades cognitivas que nosotros, los humanos, ni siquiera podemos imaginar.”
Artículo publicado originalmente en WIRED, adaptado por Manuel de León.