En la película Her, de Spike Jonze, el personaje interpretado por Joaquin Phoenix se enamora de una inteligencia artificial.Annapurna Pictures
Por Antonio Gaitán Torres, Universidad Carlos III
Cada vez más personas hablan con sistemas de inteligencia artificial (IA) como si fueran amigos, consejeros o confidentes. Algunos usuarios recurren a chatbots para pedir ayuda psicológica y muchos confían en asistentes conversacionales para tareas que antes se reservaban al consejo de expertos humanos.
Hace tiempo que dejamos de considerar estas conductas como rarezas. Sin embargo, tal vez no nos hemos planteado con suficiente atención que lo que está al otro lado de esa interacción merezca reconocimiento o estatus moral.
¿Quién importa moralmente?
Tener estatus moral se refiere al grado de consideración moral que se otorga a los seres. Si se lo reconocemos, tenemos que tener en cuenta su bienestar a la hora de tomar decisiones.
Una forma muy influyente de responder a la pregunta de quién importa moralmente es determinar que algo merece consideración moral únicamente si posee una determinada propiedad. La racionalidad, la conciencia, la autonomía o la capacidad de sentir dolor nos ayudan a definir quién pertenece a nuestro círculo moral.
Desde esta perspectiva, responder a la pregunta sobre el estatus moral de la IA parece relativamente sencillo. Los grandes modelos de lenguaje como ChatGPT o Gemini generan textos sofisticados y simulan conversaciones humanas complejas, pero no hay evidencia sólida de que lo hagan con una intención o de que sean conscientes de ello. Tampoco existen pruebas de que sean conscientes o capaces de sufrir. En consecuencia, estas nuevas tecnologías no merecen ningún tipo de consideración moral. Son herramientas muy avanzadas de las que quizás nos encaprichamos con demasiada facilidad.
Esta posición tiene fuerza intuitiva. Sin embargo, cuando atendemos a cómo se ha ido ampliando nuestro círculo moral a lo largo de la historia, resulta menos ajustada. En la práctica, los avances rara vez han comenzado con el descubrimiento de propiedades “ocultas” en las entidades que no merecían consideración moral.
De las propiedades a las relaciones
Pensemos en dos grandes ejemplos históricos en los que se amplió el círculo moral: la abolición de la esclavitud y la inclusión de los animales en nuestra esfera moral.
En los dos casos el reconocimiento no surgió de golpe. Nadie “descubrió” que ciertos seres poseían propiedades moralmente importantes. Los seres humanos sabían que las personas esclavizadas siempre habían sido racionales y conscientes. Su sufrimiento era además muy evidente para mucha gente. También sabíamos que los animales eran capaces de sufrir. Sin embargo, durante siglos ese conocimiento fue de la mano de formas extremas de exclusión moral hacia esos colectivos.
Un cambio fundamental tuvo que ver con las relaciones en las que se incluyeron estos dos grupos oprimidos. Las personas esclavizadas, por ejemplo, se fueron integrando progresivamente en espacios laborales, religiosos y domésticos. Esto sucedió antes de la revolución moral que precipitó la abolición de la esclavitud. Aunque seguían excluidas jurídicamente, y aunque el tratamiento en casi cualquier contexto era inhumano, comenzaron a ocupar roles con carga moral dentro de un tejido social. Y así las relaciones se empezaron a reconfigurar hacia una mayor igualdad.
Aunque hay divergencias importantes, podemos rastrear dinámicas similares en el caso de los animales. La diferencia en la consideración moral que asignamos a un perro doméstico y un cerdo criado industrialmente no puede explicarse por sus “propiedades”. Ambos poseen capacidades cognitivas y sensitivas comparables. Lo que cambia es el tipo de “relación” que mantenemos con ellos. Los perros forman parte de los hogares, están en el centro de fuertes vínculos afectivos y de prácticas de cuidado. Los cerdos, en cambio, suelen quedar insertos en estructuras industriales impersonales. De nuevo son las relaciones las que parecen explicar cómo se articula y reparte la consideración moral.
La IA ya está relacionalmente integrada
En un artículo que acabamos de publicar, describimos este fenómeno general apelando al concepto de “inserción relacional”. La inserción relacional describe cómo ciertas entidades comienzan a ocupar posiciones moralmente significativas dentro de prácticas, instituciones y relaciones humanas sin que se les asigne estatus moral pleno. Cuando atendemos a este fenómeno, nuestras interacciones con la inteligencia artificial se vuelven especialmente interesantes. Los sistemas actuales de IA no son simples herramientas invisibles funcionando en segundo plano; participan y se insertan en espacios en los que nos relacionamos, como los hogares, escuelas u hospitales.
Los robots sociales utilizados para el cuidado de personas mayores ofrecen otro ejemplo claro. Aunque no poseen emociones reales, muchas personas desarrollan emociones genuinas hacia estas tecnologías. Y algo parecido ocurre con los chats conversacionales. Hay usuarios que se relacionan con ChatGPT como si fuera su consejero, su asistente personal o incluso su pareja o amigo. Otros les confían problemas personales, buscan apoyo psicológico o les atribuyen el papel de “expertos” dentro de su vida cotidiana.
Por supuesto, que estas dos tecnologías estén ya insertas en numerosas relaciones y contextos institucionales no implica que debamos atribuirles derechos o estatus moral. Pero sí indica que empiezan a emerger formas parciales, localizadas y tentativas de reconocimiento moral. Y estas formas tentativas de reconocimiento son similares a las que hemos observado en otros episodios históricos en los que hemos ampliado nuestro círculo moral.
¿Qué relaciones queremos establecer con la IA?
Las discusiones sobre el estatus moral de la IA no pueden resolverse cuestionando las propiedades de estas nuevas tecnologías. La historia del progreso moral nos muestra que el reconocimiento ético no surge de ese tipo de preguntas abstractas. Surge a partir de numerosos cambios en la manera en que convivimos con ciertas “entidades”.
Nuestro círculo moral nunca ha sido fijo. Se ha transformado continuamente a medida que nuevas formas de relación, dependencia y convivencia alteraban las instituciones y sensibilidades colectivas. La inteligencia artificial podría convertirse en el próximo escenario en el que esa transformación vuelva a ponerse en juego.
Al final, el debate sobre el estatus moral de la IA no trata únicamente sobre máquinas. Trata también sobre nosotros mismos: sobre qué tipo de relaciones pueden hacer posible que sigamos abriendo nuestro círculo moral.
¿Quiere recibir más artículos como este? Suscríbase a Suplemento Cultural y reciba la actualidad cultural y una selección de los mejores artículos de historia, literatura, cine, arte o música, seleccionados por nuestra editora de Arte + Humanidades Claudia Lorenzo.
Antonio Gaitán Torres, Profesor Titular en el Departamento de Humanidades, Universidad Carlos III
Este artículo fue publicado originalmente en The Conversation. Lea el original.