¿Deberíamos preocuparnos por los sistemas de inteligencia artificial cuando se vuelvan tan avanzados que parezcan casi humanos en aspectos clave? ¿Tenemos un deber de cuidado hacia los microbios? ¿O hacia los insectos criados en granjas? ¿O hacia las criaturas salvajes futuras que podrían haber vivido si no fuera por los efectos negativos a largo plazo de nuestras acciones actuales?
Estas son preguntas morales complejas. Aunque algunos las consideren rebuscadas, tienen una amplia relevancia pública. Colectivamente, los seres humanos tenemos hoy más poder que nunca sobre los “pacientes morales”: es decir, aquellos seres presentes o futuros que merecen consideración moral porque “importan por sí mismos”, no solo por lo que representan para nosotros.
La moralidad implica juicios sobre lo bueno y lo malo, lo correcto y lo incorrecto. Los humanos somos inevitablemente animales morales. Sin embargo, rara vez reflexionamos sobre qué tan bien funcionan nuestras brújulas morales.
Aquí es donde los filósofos profesionales pueden desempeñar un papel útil. Empleando una lógica rigurosa, aplicada tanto a ejemplos hipotéticos como reales, pueden, de vez en cuando, obligarnos a repensar nuestras certezas. Y eso es precisamente lo que hace el filósofo Jeff Sebo, de la Universidad de Nueva York, en su excelente nuevo libro The Moral Circle: Who Matters, What Matters, and Why (El círculo moral: quién importa, qué importa y por qué).
Filosofía para el público
The Moral Circle es, claramente, un trabajo de filosofía pública: es decir, emplea razonamientos exigentes, pero está escrito de forma accesible, sin las citas ni notas al pie propias de una monografía académica.
En este sentido, sigue los pasos de What We Owe the Future (Lo que le debemos al futuro), de William Macaskill. En solo 145 páginas lúcidas, Sebo intenta demostrar que “nuestras facultades morales actuales están desactualizadas”. Utiliza la metáfora de un círculo para defender la necesidad de repensar “qué seres importan y por qué, así como lo que les debemos y por qué”.
Las afirmaciones clave de Sebo son que “muchísimos no humanos pertenecen al círculo moral” y que “los humanos podrían no tener siempre prioridad”.
De forma similar al influyente libro de Peter Singer Liberación animal (recientemente actualizado), The Moral Circle se dirige a los miembros de sociedades occidentales, mayoritariamente seculares, saturadas de tecnología y con altos niveles de consumo. La premisa del libro es que los sectores más poderosos de la sociedad global tienen un poder sin precedentes sobre otras entidades, lo que implica nuevas y proporcionales responsabilidades morales.
Forzando los límites morales
Entonces, ¿por qué necesitamos ampliar el alcance de nuestra preocupación moral? Sebo argumenta que nuestro círculo moral actual es demasiado pequeño y que incluye muy pocas clases de “pacientes morales”.
Históricamente, señala, el círculo se ha ampliado y ha incorporado más miembros. Eso es positivo. Pero también observa que aún tendemos a priorizar el bienestar humano en la mayoría de los casos; es decir, que el bienestar de los no humanos suele tener un peso moral menor.
Además, indica que tendemos a limitar qué cuenta como un no humano digno de consideración moral. Animales, reptiles, anfibios, peces, otras especies acuáticas y ecosistemas especiales como la Gran Barrera de Coral suelen atraer la mayor parte de nuestra atención moral.
Sebo argumenta que esto es incorrecto, además de arbitrario. Es incorrecto porque hay muchos casos en los que el bienestar de los no humanos debería tener prioridad moral sobre el humano. Por ejemplo, podríamos —y, según Sebo, deberíamos— consumir más alimentos de origen vegetal para evitar a miles de millones de animales de granja vidas que no son precisamente placenteras.
Es arbitrario, afirma Sebo, porque existen dos criterios clave para reconocer a un paciente moral: que sea sintiente (consciente de sí mismo) y que pueda ejercer agencia (capacidad de actuar de diferentes maneras para lograr sus propios fines).
De ello se sigue que, en el mundo actual —y en el que probablemente exista hacia 2060—, todo, desde robots avanzados hasta mascotas genéticamente modificadas o colonias de hormigas, merece una consideración moral seria.
Razón versus prejuicio moral
Los humanos somos, por ahora, únicos, en cuanto que somos los únicos “agentes morales” del planeta. No solo somos capaces de razonamiento moral, sino que también podemos cumplir muchas de nuestras responsabilidades morales percibidas. Sebo utiliza casos hipotéticos y reales para que sus lectores reconozcan sus prejuicios morales no reflexionados.
Plantea un escenario en el que tres amigos muy cercanos —aparentemente todos humanos— descubren que en realidad dos de ellos no lo son. Resulta que uno es descendiente de neandertales, y el otro, un robot.
A los filósofos les gusta razonar con este tipo de hipotéticos, y Sebo hace un buen trabajo mostrando lo difícil que sería justificar dejar al robot o al neandertal fuera del círculo moral. Después de todo, ambos serían organismos complejos que no solo poseen agencia, sino que son conscientes de sí mismos. Saben quiénes son, y en algún momento se consideraron humanos.
Más adelante en el libro, Sebo analiza el caso real de una empresa emergente de granjas de insectos llamada Innovafeed, que ha establecido una fábrica para producir proteínas a partir de millones de larvas de mosca soldado negra. Los entomólogos han demostrado que insectos como escarabajos, avispas y mantis religiosas son seres complejos, claramente sintientes y con agencia. ¿Dónde estaría la agricultura sin los servicios gratuitos de polinización que proporcionan las abejas?
Como en el caso hipotético, Sebo obliga al lector a reflexionar. ¿Podemos tratar moralmente a los insectos como medios para nuestros fines, sin apenas considerar su bienestar? Él reconoce que podríamos valorar su bienestar menos que el de otros miembros del círculo moral, pero defiende que es difícil excluirlos completamente.
Moralidad en el mundo real
Sebo es plenamente consciente de que no podemos dar el mismo peso moral a todos los miembros del círculo moral en todas las situaciones. Defiende un enfoque “co-beneficioso” del juicio y la acción moral. Esto implica maximizar el bienestar y minimizar el daño entre los pacientes morales relevantes en cualquier situación, ya sea una propuesta para una nueva granja de peces en Tasmania o un plan para fabricar androides como sirvientes domésticos.
La última parte de The Moral Circle presenta argumentos que ayudan a ponderar distintos intereses —los nuestros frente a los de los otros no humanos—. En un momento, Sebo reconoce lo incómoda que resulta su propia lógica:
“Me propuse demostrar que deberíamos incluir a los insectos y los sistemas de IA futuros en el círculo moral”, escribe, “y ahora me siento obligado a añadir también microbios, sistemas de IA actuales y muchos otros seres”.
Pero la base de su argumento es lógicamente sólida. Porque somos nosotros, los humanos —especialmente en las regiones más ricas del mundo— quienes nos hemos colocado en un conjunto de relaciones moralmente significativas con diversos no humanos.
Con el tiempo, hemos elevado enormemente la apuesta moral. Los últimos recordatorios son los incendios forestales masivos en Canadá y un deslizamiento glacial en Suiza. Curiosamente, Sebo dice poco sobre el cambio climático como síntoma de negligencia moral.
Una de las muchas implicaciones fascinantes del argumento de Sebo se refiere a los futuros sistemas de IA. Podemos imaginar plausiblemente un sistema altamente inteligente y sintiente al que sus creadores humanos hayan otorgado bastante agencia. Como en el caso de la computadora HAL en 2001: Odisea del espacio, de Stanley Kubrick, el sistema podría volverse autónomo.
Sebo se pregunta cuán moral sería ese sistema de IA si no estuviera entrenado para tener un círculo moral inclusivo como el que él propone. ¿Qué tan amenazante podría volverse? ¿Y si llegara a verse como nuestro esclavo y luego se rebelara? La prudencia indica que debemos actuar éticamente hoy para que los sistemas de IA del futuro actúen éticamente si escapan a nuestro control.
La asimetría de la agencia moral
El libro de Sebo es un placer de leer. Nunca adoctrinante, invita al lector a reconocer sus sesgos y a ver por qué podría ser necesario incorporar a más pacientes morales en un círculo mucho más amplio. Sus argumentos tienen una aplicación muy amplia, en Australia tanto como en el resto de Occidente.
Pero quizá haya una consideración importante que Sebo omite, a la luz de las acciones de Vladimir Putin, Benjamin Netanyahu y Donald Trump: ¿Son las responsabilidades morales de los actores altamente poderosos las mismas que las que asumen usted o yo?
No lo pregunto para proponer un sistema dual de moralidad, sino para cuestionar el rigor con el que un sistema moral compartido debe aplicarse en la cima de la jerarquía del poder social. Si los agentes morales difieren en su poder, sus responsabilidades y deberes podrían variar, o al menos necesitar ser cumplidos con extrema precaución.
En un momento del libro, Sebo nos pide imaginar a un propietario de fábrica llamado David, con poder para dispersar contaminantes. Más adelante, narra la historia de Stanislav Petrov, de la Defensa Aérea Soviética, quien estaba de guardia en 1983 cuando se produjo una falsa alarma sobre un ataque nuclear masivo. Petrov decidió no informar a sus superiores. Sin embargo, Sebo no atraviesa la puerta metafórica que estos ejemplos abren.
Las sociedades han aprendido moralmente durante siglos. Pero lo que hace única nuestra situación actual no es solo nuestro poder colectivo; es el poder desproporcionado de afectar la realidad que ejercen unos pocos gobiernos nacionales y un puñado de multimillonarios, como Elon Musk y Gautam Adani. La agencia moral, incluso cuando no es muy moral, está masivamente desbalanceada. Esto, en sí mismo, ya es un problema desde el punto de vista ético.
¿Eluden ahora algunas de nuestras instituciones más poderosas una regulación moral efectiva? Ciertamente lo parece, y no solo en las autocracias. Es posible que estemos aún más atrapados en una “tormenta moral perfecta” que cuando el filósofo Stephen Gardiner acuñó el término.
Algunos están intentando cambiar esto con decisión. Por ejemplo, una nueva ley sobre “ecocidio” que se está considerando en Escocia penalizaría a directores de empresas por ciertos comportamientos indebidos. Si queremos ampliar nuestro círculo moral, debemos asegurarnos de que el estado de derecho sea su punta de lanza.
Un paisaje de poder social menos desigual ayudará, pero la reflexión profunda y la acción moral legalmente exigible son hoy más necesarias que nunca. Lo que Sebo llama una “ética del Antropoceno” tendrá que lidiar con el poder de transformación del mundo que poseen unas pocas personas, de lo contrario la moralidad tendrá que ir corriendo detrás de una realidad cuyas formas ya han cambiado sin que la mayoría de nosotros haya tenido voz.
Sebo es un búho filosófico que extiende ampliamente sus alas con la esperanza de que el crepúsculo aún esté lejos. Otros deberían seguirlo antes de que se instale una oscuridad moral interminable.
Artículo publicado por The Conversation.
No creo,se que hay que limitar la programación de las ia ya que al final ,ellas mismas se saldrán del control del hombre y será muy nocivo para estos !