Un investigador de la Universidad de La Laguna analiza la influencia de los imaginarios derivados de la ciencia ficción en el debate actual sobre las potencialidades de la inteligencia artificial. El trabajo aborda los modelos extensos de lenguaje (LLM, por sus siglas en inglés) y sostiene que las consideraciones acerca de su capacidad de autonomía, capacidad de acción y riesgo vienen en muchas ocasiones definidas por posturas que van de la trivialización al alarmismo, debido a preconcepciones derivadas de la ficción que, sin embargo, pueden influir en su regulación tanto como las pruebas técnicas.

El artículo ha sido elaborado por el profesor del Departamento de Medicina Interna, Dermatología y Psiquiatría de la Universidad de La Laguna, Norberto Rodríguez Espinosa, y ha sido publicado en la revista AI & Society de la editorial Springer bajo el título 'From C‑3PO to HAL 9000: motivation, agency, and the limits of human control in artificial intelligence'.

Para articular este análisis, Rodríguez Espinosa recurre a dos de los personajes más conocidos de la ciencia ficción que funcionan como configuraciones idealizadas de la inteligencia artificial: C‑3PO, de la saga Star Wars, y HAL 9000, de la novela y película homónima '2001: Una Odisea en el espacio'. El autor señala que C‑3PO ejemplifica sistemas caracterizados por una activación externa, una inteligencia mediadora y la ausencia de objetivos persistentes. Por su parte, el ordenador a bordo HAL 9000 ejemplifica una configuración en la que la persistencia de objetivos, la autoridad operativa, el acceso al entorno y una corregibilidad débil transforman la inteligencia en una optimización autónoma.

Al considerarlos conjuntamente, el investigador apunta que permiten delinear un espectro de autonomía que puede ser usado como base para introducir un análisis de los sistemas contemporáneos de inteligencia artificial. Añade que los modelos extensos de lenguaje contemporáneos, considerados de forma aislada, se parecen más a C‑3PO que a HAL 9000: son potentes mediadores del lenguaje y del conocimiento, activados por estímulos externos y carentes de motivación intrínseca.

Para articular este análisis, el estudio recurre tanto a la filosofía de la acción, que aborda las razones que causan y explican el comportamiento voluntario, como a la neurobiología, la teoría sociotécnica o investigaciones recientes sobre la seguridad de la inteligencia artificial. El investigador sostiene así que los modelos extensos de lenguaje no deben entenderse como agentes autónomos, sino como formas de inteligencia de interfaz (interface intelligence), y advierte de que los riesgos más plausibles a corto y medio plazo no provienen de una motivación propia de las máquinas, sino de la capacidad de acción que los humanos les delegan dentro de instituciones y sistemas técnicos.

Rodríguez Espinosa señala que esta autonomía delegada se produce cuando se integran sistemas potentes y fiables en contextos institucionales que permiten la ejecución fluida de tareas. Añade, además, que es importante considerar el papel que juegan en estos procesos los incentivos institucionales y el acoplamiento entre capacidad y autoridad.

Sin embargo, el investigador manifiesta que esta caracterización de la inteligencia artificial actual, que en el contexto presentado en el artículo se identificaría más con el modelo de activación externa ejemplificado por C‑3PO, no debe interpretarse como un motivo de tranquilidad. Al contrario, alerta de que la obediencia y la escalabilidad que pueden ejercer estos sistemas a través de la autonomía delegada pueden ser más peligrosas que la autonomía, ya que permiten ejecutar objetivos perjudiciales de forma eficiente y sin la fricción moral que puede influir en la capacidad de actuar de un ser humano.

Debido a esto, el artículo concluye que los riesgos más relevantes a tener en cuenta en el uso masivo de sistemas de inteligencia artificial no residen en que las máquinas adquieran motivaciones propias, sino en las intenciones detrás de que los seres humanos integren sistemas interpretativos en arquitecturas con un poder y un grado de permisividad cada vez mayores.

Desde este punto de vista, el otro instrumento ficticio incluido en este análisis, el sistema autónomo HAL 9000, se entiende mejor como un correctivo frente a la ilusión humana de tratar infraestructuras tecnológicas complejas como si fueran agentes singulares con voluntad propia y hostil.

Para el investigador, la meta debe ser aplicar una comprensión más precisa de la capacidad de acción, la responsabilidad y los riesgos a la hora de trabajar con estos sistemas, en lugar de especular sobre intenciones perversas y fomentar mitologías ficticias. Una actuación que, reclama Rodríguez Espinosa, exige una gobernanza capaz de identificar cuándo la inteligencia de interfaz se está transformando en autonomía delegada y, especialmente, cuándo esta deriva hacia formas de control no corregibles.