A veces, la IA puede ser realmente una cuestión de vida o muerte.
El año pasado, un hombre belga se quitó la vida trágicamente después de que un chatbot supuestamente lo convenciera de hacerlo. En los Países Bajos, hay un debate en curso sobre si se debe permitir el uso de inteligencia artificial, o IA, para respaldar las decisiones sobre el suicidio asistido por un médico. En otros lugares, los investigadores están utilizando la IA para predecir la probabilidad de que los pacientes con cáncer en etapa avanzada sobrevivan los próximos treinta días, lo que podría permitirles optar por no recibir tratamientos desagradables en sus últimas semanas.
He visto de primera mano la tendencia a hacer preguntas de vida o muerte a la IA. Después de escuchar que era una científica informática, una profesora de una universidad que estaba visitando me preguntó de inmediato: “Entonces, ¿pueden tus algoritmos decirme cuál es el mejor momento para suicidarme?”.
La mujer no corría riesgo de autolesionarse. En cambio, temía la aparición de la enfermedad de Alzheimer a medida que envejeciera y anhelaba un modelo de IA capaz de ayudarla a determinar el momento óptimo para terminar con su vida antes de que el deterioro cognitivo la dejara incapaz de tomar decisiones importantes.
Afortunadamente, no suelo recibir este tipo de solicitudes, pero conozco a muchas personas que esperan que las nuevas tecnologías eliminen las incertidumbres existenciales de sus vidas. A principios de este año, unos investigadores daneses crearon un algoritmo, denominado “calculadora de la fatalidad”, que podía predecir la probabilidad de que las personas mueran en los próximos cuatro años con una precisión de más del 78 por ciento. En cuestión de semanas, descubrí que aparecían en Internet varios robots imitadores que pretendían predecir las fechas de muerte de los usuarios.
Desde los chistes de Seinfeld hasta las historias de ciencia ficción y las películas de terror, la idea de una computadora avanzada que nos diga cuándo moriremos no es nada nuevo, pero en la era de ChatGPT, la idea de que la IA haga cosas asombrosas parece más realista que nunca. Sin embargo, como científica informática, sigo siendo escéptica. La realidad es que, si bien la IA puede hacer muchas cosas, está lejos de ser una bola de cristal.
Las predicciones algorítmicas, como las tablas actuariales, son útiles en conjunto: pueden decirnos, por ejemplo, aproximadamente cuántas personas morirán en nuestra comunidad durante un período de tiempo determinado. Lo que no pueden hacer es ofrecer la última palabra sobre la esperanza de vida de cualquier individuo. El futuro no está escrito en piedra: una persona sana puede ser atropellada por un autobús mañana, mientras que un fumador que nunca hace ejercicio puede ir en contra de las tendencias actuariales y vivir hasta los cien años.
Incluso si los modelos de IA pudieran hacer predicciones individuales significativas, nuestra comprensión de las enfermedades está en constante evolución. Antes, nadie sabía que fumar causaba cáncer; después de que lo descubrimos, nuestras predicciones de salud cambiaron drásticamente. De manera similar, los nuevos tratamientos pueden dejar obsoletas las predicciones anteriores: según la Fundación de Fibrosis Quística, la esperanza de vida media de las personas que nacen con la enfermedad ha aumentado en más de quince años desde 2014, y los nuevos medicamentos y terapias genéticas prometen mayores ganancias en el futuro.
Si quieres certeza, esto puede sonar decepcionante. Sin embargo, cuanto más estudio cómo las personas toman decisiones con datos, más siento que la incertidumbre no es necesariamente algo malo. La gente anhela claridad, pero mi trabajo demuestra que la gente puede sentirse menos segura y tomar peores decisiones cuando se le da más información para orientar sus elecciones. Las predicciones de malos resultados pueden hacernos sentir impotentes, mientras que la incertidumbre, como sabe cualquiera que juegue a la lotería, puede darnos licencia para soñar con (y esforzarnos por) un futuro mejor.
Las herramientas de IA pueden ser útiles en situaciones de bajo riesgo, por supuesto. El algoritmo de recomendación de Netflix es una excelente manera de encontrar nuevos programas para ver en exceso, y si te dirige hacia un fracaso, puedes hacer clic y ver otra cosa. Hay situaciones de mayor riesgo en las que la IA también es útil: cuando la computadora a bordo de un avión de combate interviene para evitar una colisión, por ejemplo, entonces la predicción de IA puede salvar vidas.
Los problemas comienzan cuando vemos que las herramientas de IA reemplazan, en lugar de aumentar, nuestra propia capacidad de acción. Aunque la IA es buena para detectar patrones en los datos, no puede reemplazar el juicio humano (los algoritmos de las aplicaciones de citas, por ejemplo, son notoriamente malos jueces de compatibilidad). Los algoritmos también son propensos a fabricar respuestas con confianza en lugar de admitir la incertidumbre y también pueden mostrar sesgos preocupantes basados en los conjuntos de datos utilizados para entrenarlos.
¿Qué debemos hacer con todo esto? Para bien o para mal, debemos aprender a vivir con las incertidumbres de nuestras vidas (y, tal vez, aceptarlas). Así como los médicos aprenden a tolerar la incertidumbre para atender a sus pacientes, todos debemos tomar decisiones importantes sin saber exactamente a dónde nos llevarán.
Eso puede ser incómodo, pero es parte de lo que nos hace humanos. Como advertí a la mujer que temía la aparición del Alzheimer, es imposible para la IA cuantificar el valor de un solo momento vivido, y los desafíos que conlleva ser humano son algo que no deberíamos delegar demasiado rápido en un modelo de IA insensible.
El poeta Rainer Maria Rilke le dijo una vez a un joven escritor que no deberíamos intentar eliminar la incertidumbre, sino aprender a “amar las preguntas en sí mismas”. Es duro no saber cuánto tiempo viviremos, si una relación durará o qué nos depara la vida. Pero la IA no puede respondernos estas preguntas y no deberíamos pedírselo. En cambio, tratemos de valorar el hecho de que las decisiones más difíciles y significativas de la vida siguen siendo nuestras, y solo nuestras.
Undark. Traducción: Camille Searle.