Una de las advertencias apunta a los problemas de humanizar a las IA, porque podría desviar la atención de los verdaderos desafíos éticos
En un laboratorio del Centro de Ciencia de la Conciencia de la Universidad de Sussex, en el Reino Unido, se está llevando a cabo una investigación que busca dilucidar uno de los enigmas más profundos de la ciencia moderna: la conciencia de la inteligencia artificial.
A través de un dispositivo conocido como Dreamachine, se exploran las experiencias conscientes del cerebro humano. Este proyecto, detallado en un informe de la BBC, forma parte de una serie de investigaciones que buscan comprender la naturaleza de la conciencia tanto en humanos como en máquinas.
Con el avance en grandes modelos de lenguaje (LLM), como Gemini y Chat GPT, que permiten mantener conversaciones fluidas y coherentes, se ha reavivado el debate sobre si estas inteligencias artificiales han alcanzado un estado de conciencia. Algunos expertos sugieren que esta posibilidad está más cerca de la realidad de lo que se pensaba anteriormente.
Cómo ha sido la evolución del pensamiento sobre la conciencia en IA
La noción de máquinas conscientes ha sido un tema recurrente en la ciencia ficción desde hace décadas. Sin embargo, el reciente desarrollo de los LLM ha obligado a los expertos a reconsiderar estas ideas bajo una nueva luz.
El profesor Anil Seth, un investigador en el campo de la conciencia, sostiene que la inteligencia y el lenguaje no implican necesariamente conciencia. Según Seth, aunque la inteligencia y el lenguaje están asociados en los humanos, esta correlación no se extiende necesariamente a las máquinas.
Este argumento se suma al escepticismo respecto a la posibilidad de que las IA puedan desarrollar una conciencia similar a la humana.
Definir qué es exactamente la conciencia sigue siendo un desafío. Investigadores del Centro de Ciencia de la Conciencia están aplicando un enfoque multidisciplinario al dividir este complejo problema en partes más manejables. Este método busca identificar patrones de actividad cerebral que corresponden a experiencias conscientes específicas.
El profesor Seth y su equipo están especialmente interesados en explorar la posibilidad de que la conciencia esté más relacionada con la vida biológica que con la computación pura. Argumentan que los cerebros humanos no se pueden separar de sus procesos biológicos subyacentes.
Esta perspectiva sugiere que cualquier avance significativo hacia máquinas conscientes podría requerir un enfoque basado en sistemas vivos o híbridos.
Cuáles son las preocupaciones éticas y las futuras implicaciones
A pesar del escepticismo, algunos expertos del sector tecnológico creen que las máquinas ya podrían haber alcanzado un cierto nivel de conciencia. Blake Lemoine, ex ingeniero de software de Google, y Kyle Fish, de Anthropic, han argumentado a favor de esta posibilidad. La falta de comprensión completa de cómo operan internamente los LLM refuerza estas preocupaciones.
El profesor Murray Shanahan destaca la necesidad urgente de entender mejor estos sistemas para garantizar que su desarrollo y uso sean seguros.
Por otro lado, Lenore y Manuel Blum, profesores eméritos de la Universidad Carnegie Mellon, especulan que la conciencia de la IA podría surgir al dotar a estos sistemas de más entradas sensoriales directas del mundo real, como la visión y el tacto.
Su trabajo en el desarrollo de un lenguaje interno para máquinas pretende replicar procesos cerebrales que podrían, en su opinión, culminar en una forma de conciencia artificial.
La IA creará una nueva realidad
A pesar del debate, el consenso entre muchos expertos es que, al menos por ahora, las máquinas no han alcanzado una conciencia análoga a la humana. Sin embargo, el rápido avance tecnológico plantea la posibilidad de que esto cambie. El profesor David Chalmers, de la Universidad de Nueva York, plantea que la inteligencia aumentada mediante IA podría transformar profundamente nuestra experiencia del mundo.
Mientras que el profesor Seth advierte sobre el peligro de antropomorfizar a las IA. La percepción de que las máquinas son conscientes podría llevarnos a proyectar emociones sobre ellas, lo cual puede distraernos de nuestras verdaderas prioridades morales y éticas.
Estos desarrollos plantean preguntas sobre las relaciones humanas y la estructura de nuestra sociedad.
