HomeMIRADASPERSPECTIVASNo le hagas preguntas de vida o muerte a IA

No le hagas preguntas de vida o muerte a IA

Publicado el

por Samantha Kleinberg

A veces, la IA puede ser realmente una cuestión de vida o muerte.

El año pasado, un hombre belga se quitó la vida trágicamente después de que un chatbot supuestamente lo convenciera de hacerlo. En los Países Bajos, hay un debate en curso sobre si se debe permitir el uso de inteligencia artificial, o IA, para respaldar las decisiones sobre el suicidio asistido por un médico. En otros lugares, los investigadores están utilizando la IA para predecir la probabilidad de que los pacientes con cáncer en etapa avanzada sobrevivan los próximos treinta días, lo que podría permitirles optar por no recibir tratamientos desagradables en sus últimas semanas.

He visto de primera mano la tendencia a hacer preguntas de vida o muerte a la IA. Después de escuchar que era una científica informática, una profesora de una universidad que estaba visitando me preguntó de inmediato: “Entonces, ¿pueden tus algoritmos decirme cuál es el mejor momento para suicidarme?”.

La mujer no corría riesgo de autolesionarse. En cambio, temía la aparición de la enfermedad de Alzheimer a medida que envejeciera y anhelaba un modelo de IA capaz de ayudarla a determinar el momento óptimo para terminar con su vida antes de que el deterioro cognitivo la dejara incapaz de tomar decisiones importantes.

Afortunadamente, no suelo recibir este tipo de solicitudes, pero conozco a muchas personas que esperan que las nuevas tecnologías eliminen las incertidumbres existenciales de sus vidas. A principios de este año, unos investigadores daneses crearon un algoritmo, denominado “calculadora de la fatalidad”, que podía predecir la probabilidad de que las personas mueran en los próximos cuatro años con una precisión de más del 78 por ciento. En cuestión de semanas, descubrí que aparecían en Internet varios robots imitadores que pretendían predecir las fechas de muerte de los usuarios.

Más en New York Diario:  Acerca del insomnio y el mundo moderno

Desde los chistes de Seinfeld hasta las historias de ciencia ficción y las películas de terror, la idea de una computadora avanzada que nos diga cuándo moriremos no es nada nuevo, pero en la era de ChatGPT, la idea de que la IA haga cosas asombrosas parece más realista que nunca. Sin embargo, como científica informática, sigo siendo escéptica. La realidad es que, si bien la IA puede hacer muchas cosas, está lejos de ser una bola de cristal.

Las predicciones algorítmicas, como las tablas actuariales, son útiles en conjunto: pueden decirnos, por ejemplo, aproximadamente cuántas personas morirán en nuestra comunidad durante un período de tiempo determinado. Lo que no pueden hacer es ofrecer la última palabra sobre la esperanza de vida de cualquier individuo. El futuro no está escrito en piedra: una persona sana puede ser atropellada por un autobús mañana, mientras que un fumador que nunca hace ejercicio puede ir en contra de las tendencias actuariales y vivir hasta los cien años.

Incluso si los modelos de IA pudieran hacer predicciones individuales significativas, nuestra comprensión de las enfermedades está en constante evolución. Antes, nadie sabía que fumar causaba cáncer; después de que lo descubrimos, nuestras predicciones de salud cambiaron drásticamente. De manera similar, los nuevos tratamientos pueden dejar obsoletas las predicciones anteriores: según la Fundación de Fibrosis Quística, la esperanza de vida media de las personas que nacen con la enfermedad ha aumentado en más de quince años desde 2014, y los nuevos medicamentos y terapias genéticas prometen mayores ganancias en el futuro.

Más en New York Diario:  Sin buena planificación no hay buenos propósitos de Año Nuevo

Si quieres certeza, esto puede sonar decepcionante. Sin embargo, cuanto más estudio cómo las personas toman decisiones con datos, más siento que la incertidumbre no es necesariamente algo malo. La gente anhela claridad, pero mi trabajo demuestra que la gente puede sentirse menos segura y tomar peores decisiones cuando se le da más información para orientar sus elecciones. Las predicciones de malos resultados pueden hacernos sentir impotentes, mientras que la incertidumbre, como sabe cualquiera que juegue a la lotería, puede darnos licencia para soñar con (y esforzarnos por) un futuro mejor.

Las herramientas de IA pueden ser útiles en situaciones de bajo riesgo, por supuesto. El algoritmo de recomendación de Netflix es una excelente manera de encontrar nuevos programas para ver en exceso, y si te dirige hacia un fracaso, puedes hacer clic y ver otra cosa. Hay situaciones de mayor riesgo en las que la IA también es útil: cuando la computadora a bordo de un avión de combate interviene para evitar una colisión, por ejemplo, entonces la predicción de IA puede salvar vidas.

Los problemas comienzan cuando vemos que las herramientas de IA reemplazan, en lugar de aumentar, nuestra propia capacidad de acción. Aunque la IA es buena para detectar patrones en los datos, no puede reemplazar el juicio humano (los algoritmos de las aplicaciones de citas, por ejemplo, son notoriamente malos jueces de compatibilidad). Los algoritmos también son propensos a fabricar respuestas con confianza en lugar de admitir la incertidumbre y también pueden mostrar sesgos preocupantes basados ​​en los conjuntos de datos utilizados para entrenarlos.

Más en New York Diario:  Internet de los animales
Ilustración: Carolina Arriada para NYDiario.

¿Qué debemos hacer con todo esto? Para bien o para mal, debemos aprender a vivir con las incertidumbres de nuestras vidas (y, tal vez, aceptarlas). Así como los médicos aprenden a tolerar la incertidumbre para atender a sus pacientes, todos debemos tomar decisiones importantes sin saber exactamente a dónde nos llevarán.

Eso puede ser incómodo, pero es parte de lo que nos hace humanos. Como advertí a la mujer que temía la aparición del Alzheimer, es imposible para la IA cuantificar el valor de un solo momento vivido, y los desafíos que conlleva ser humano son algo que no deberíamos delegar demasiado rápido en un modelo de IA insensible.

El poeta Rainer Maria Rilke le dijo una vez a un joven escritor que no deberíamos intentar eliminar la incertidumbre, sino aprender a “amar las preguntas en sí mismas”. Es duro no saber cuánto tiempo viviremos, si una relación durará o qué nos depara la vida. Pero la IA no puede respondernos estas preguntas y no deberíamos pedírselo. En cambio, tratemos de valorar el hecho de que las decisiones más difíciles y significativas de la vida siguen siendo nuestras, y solo nuestras.

Undark. Traducción: Camille Searle.

Últimos artículos

San Valentín: Amor, dinero y sentimientos prefabricados

por Haley Bliss Cada febrero somos testigos de un curioso fenómeno antropológico: el día de...

Valentine’s Day: Love, Money, and Prefabricated Meanings

by Haley Bliss Every February, we witness a curious anthropological phenomenon: Valentine's Day, a commercial...

¿Hay que cerrar el Departamento de Educación?

por Alex Hinton “Y otra cosa que haré muy al principio de la administración es...

How to Lie with Writing on Music

by Marcelo Pisarro The first sentence of How to Lie with Maps, the 1991 book...

Necesitamos Groenlandia (pero no porque lo que Donald Trump cree)

por Paul Bierman Donald Trump siente algo por Groenlandia. Primero quiso comprar la isla ártica....

¿La ansiedad climática es un problema o un privilegio?

por Eve Andrews En mayo de 2014, Kate Schapira llevó una mesita con un cartel...

El humo tóxico de los incendios de Los Ángeles

por Zoya Teirstein Rachel Wald siempre está un poco resfriada. Así es la vida cuando...

Segunda era Trump: Nacionalismo, inmigración y venganza

por Emma Shortis Ayer, en la Rotonda del Capitolio en Washington DC, el 47º Presidente...

David Lynch y el lado extraño de la cultura estadounidense

por Billy J. Stratton “Hay una especie de maldad ahí fuera”, dice el sheriff Truman...

¿Sin calefacción en tu apartamento de Nueva York? Esto es lo que puedes hacer

por Rachel Holliday Smith El invierno está aquí, pero tu calefacción no. ¿Qué puedes hacer? La...

Una estación de noches largas y duras verdades

por Haley Bliss El invierno en la ciudad de Nueva York es una paradoja: una...

La tarifa por congestión ya funciona en Nueva York

por Frida Garza Después de meses (y, para algunos, años) de anticipación, la tarifa por...

¿Los animales piensan en la muerte?

por Dan Falk Nuestra relación con la muerte es compleja. A nivel intelectual, entendemos nuestra...

Cuando Bob Dylan transformó la música moderna

por Ted Olson A Complete Unknown, la película biográfica de Bob Dylan protagonizada por Timothée...

Hagamos que cuente

por Tara Valencia El primer día del año en Nueva York siempre da la sensación...

Sigue leyendo

San Valentín: Amor, dinero y sentimientos prefabricados

por Haley Bliss Cada febrero somos testigos de un curioso fenómeno antropológico: el día de...

Valentine’s Day: Love, Money, and Prefabricated Meanings

by Haley Bliss Every February, we witness a curious anthropological phenomenon: Valentine's Day, a commercial...

¿Hay que cerrar el Departamento de Educación?

por Alex Hinton “Y otra cosa que haré muy al principio de la administración es...