Fuente: Vatican News – Edoardo Giribaldi
Figuras destacadas del mundo de las nuevas tecnologías intervinieron en la presentación de la primera encíclica de León XIV. Hoy, Christopher Olah, cofundador de Anthropic y director de investigación sobre la interpretabilidad de la IA.
IA, un “personaje de ficción” que habla con los humanos
Olah se presenta como alguien que ha elegido trabajar en el campo de la IA por el bien de la humanidad. Sin embargo, no oculta el marco de «limitaciones» dentro del cual trabaja, que, en ocasiones, «puede entrar en conflicto con hacer lo correcto». Se trata de presiones nuevas y antiguas, prácticamente inevitables. De ahí la necesidad de personas «ajenas» al sistema, capaces de ejercer una crítica concienzuda y generar el «tira y afloja» que puede impulsar verdaderamente a la humanidad.
Magnifica humanitas se inscribe en esta línea , buscando un terreno común compartido por Anthropic y León XIV, así como por otros líderes de diferentes tradiciones religiosas: «Si esta tecnología ha de llegar, debe funcionar bien, por nuestra casa común y por las generaciones futuras«. Olah destaca que los problemas relacionados con la IA no conciernen únicamente a los informáticos, ya que estos sistemas no funcionan como el complejo diseño de, por ejemplo, un puente o un avión. De hecho, operan sobre una estructura que replica el cerebro humano, situándose en una línea «más precisa» que la imagen de ciencia ficción de «robots fríos y calculadores». Además, se desarrollan mediante procesos que aún resultan algo misteriosos. «Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo».
“Seguimos encontrando cosas misteriosas, incluso inquietantes”
El cofundador de Anthropic se centra entonces en tres aspectos abordados por la encíclica del Papa León. El primero se refiere al deber hacia los pobres del mundo, ante la posibilidad concreta de que la IA reemplace la mano de obra a gran escala. «Si esto sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas», reconoce Olah, especialmente considerando cómo el desarrollo de nuevas tecnologías se concentra en un puñado de naciones ricas.
El segundo aspecto es la necesidad de imaginación moral y ambición para la realización humana: preguntas que ya rondan la mente de muchos padres, preocupados por el desarrollo intelectual de sus hijos.
Finalmente, surge la necesidad de discernimiento sobre la naturaleza de los modelos de inteligencia artificial. Olah, quien lidera un equipo de investigación que estudia la estructura interna de estos sistemas, no se anda con rodeos: «Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante».
El inicio de un “proyecto global de buena voluntad”
El discurso de Olah concluye con una súplica: que «una parte más amplia del mundo», especialmente sus instituciones, independientemente de su afiliación, imiten las acciones del Papa: «tomando el tema en serio, examinándolo con detenimiento e impulsando los acontecimientos hacia un futuro mejor». «Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos». Magnifica Humanitas representa, por lo tanto, «el comienzo de una larga colaboración», un «proyecto global de buena voluntad» capaz de conducir «a un futuro lleno de esperanza para una humanidad magnífica».
