La muerte del padre del CEO de Anthropic justo antes de que llegara la cura para su hepatitis C le convenció del poder de la Ciencia. Sin embargo, su experiencia con la IA le ha alertado de sus peligros. ¿Cuánto hay de verdad y cuánto de impostura en la propuesta de un ‘parón’ de Dario Amodei? Leer La muerte del padre del CEO de Anthropic justo antes de que llegara la cura para su hepatitis C le convenció del poder de la Ciencia. Sin embargo, su experiencia con la IA le ha alertado de sus peligros. ¿Cuánto hay de verdad y cuánto de impostura en la propuesta de un ‘parón’ de Dario Amodei? Leer
Para entender el dilema al que se enfrenta Dario Amodei, el todopoderoso CEO de Anthropic, conviene conocer dos fechas de su biografía.
La primera es 2006. Amodei era un prometedor estudiante de Física Teórica en la Universidad de Princeton cuando su padre Riccardo, artesano del cuero, falleció de una variante de la Hepatitis C. La tristeza se convirtió en rabia sólo cuatro años más tarde, cuando se aprobó un nuevo fármaco -llamado sofosbuvir- que curaba a más del 95% de los pacientes. «Esa pérdida ha sido un impulso crucial para el resto de su vida, puesto que le demostró lo transformador que puede ser el avance científico», dice por teléfono el periodista Alex Kantrowitz, fundador de la influyente newsletter Big Technology y autor de uno de los perfiles más solventes sobre nuestro protagonista.
Aquel trauma llevó a Amodei a cambiar la abstracción de la Física por el pragmatismo de la Biología. Ya como doctorando, se unió a un equipo de la Universidad de Stanford que investigaba la detección de metástasis mediante el análisis de proteínas. El trabajo de laboratorio resultaba tan farragoso que buscó un atajo en el machine learning, una rama de la Inteligencia Artificial que ya empezaba a despuntar y que se convirtió en su nueva obsesión. «Siento una responsabilidad personal en el desarrollo de la IA», dijo este domingo en una entrevista con la CBS, justo antes de citar a su padre como el motor de su afán por exprimir todas las ventajas de las nuevas tecnologías.
La otra fecha clave es 2020. Esa primavera, con todo el planeta confinado por la pandemia, Amodei lideró el lanzamiento de GPT-3, la tercera versión del chatbot de OpenAI. Mientras el mundillo de la inteligencia artificial se quedaba fascinado por los avances de una tecnología todavía incipiente, su principal creador se sentía cada vez más incómodo. No sólo le alarmaba el potencial de su criatura, aún mayor de lo que había imaginado: también le enfadaba la falta de conciencia de los riesgos que percibía en la cúpula de la empresa, liderada por Sam Altman.
De nuevo, Amodei optó por dar un golpe de timón. En enero de 2021, lideró a la facción rebelde de OpenAI, apodada «los pandas», que fundó una alternativa ética: Anthropic. Su misión era ambiciosa: crear el mejor modelo del mercado, aplicarle los estándares de seguridad más elevados y, así, forzar a toda la competencia a imitarles. «Lideremos una carrera hacia las alturas», repetía una y otra vez su CEO quien, frente al pronóstico de sus detractores, logró su objetivo. O, al menos, eso parecía.
De la tensión entre ambas fechas surge el dilema que hoy acorrala a Dario Amodei: cómo aprovechar todo el poder de la IA y, a la vez, evitar los riesgos existenciales que supone su desarrollo acelerado. «Me he enfrentado a esta dualidad entre riesgo y beneficio desde los comienzos de Anthropic», admitía en el asombroso ensayo de 3.800 palabras que publicó este sábado. «No construir esta tecnología privaría a la humanidad de sus beneficios o, simplemente, pondría la IA en manos de potencias autoritarias, mientras que construirla demasiado rápido sería una idea temeraria».
La solución que lanzó en su texto, un frenazo en el avance de los nuevos modelos hasta que se desarrollen más medidas de seguridad, sólo resuelve su dilema de forma superficial. Ninguna de las propuestas de su ensayo serviría de nada si el resto de actores del sector de la IA -tanto las principales empresas tecnológicas como los gobiernos de los estados más poderosos- no imitan todos sus pasos.
El apoyo inmediato que recibió de sus grandes competidores de EEUU –Sam Altman, Elon Musk y Demis Hassabis– dio cierta credibilidad a su propuesta y evitó que la incertidumbre se apoderase por completo del negocio. Sin embargo, su texto también ha recibido críticas de todo tipo: unas, como las de China, ya se daban por descontadas; otras, como las del presidente Trump, resultaban menos predecibles, pero no por ello menos dañinas.
Entre los detractores de su propuesta, uno de los reproches más frecuentes es que, bajo su aparente preocupación por la seguridad, Amodei simplemente busca propiciar un entorno regulatorio que proteja a su empresa de la competencia. Esta estrategia cobraría todo su sentido en un momento en que los ingresos de Anthropic aún no justifican sus colosales gastos en infraestructuras.
«Con todo lo sensatos que son los líderes de su empresa, no han sido capaces de entender que lo único que pueden controlar es cómo actúan», escribió ayer Tim Higgins, especialista en tecnología de The Wall Street Journal. «No pueden impedir que sus rivales destruyan el mundo, pero sí pueden decidir que ellos no quieren participar en la carrera».
«Quizá Amodei sí cree que es posible o, al menos, siente que su obligación es lanzar su idea en voz alta»
Alex Kantrowitz
Estas críticas, sin embargo, no tienen en cuenta uno de los rasgos fundacionales de Anthropic: la convicción de muchos de sus ingenieros de que ellos, y sólo ellos, están capacitados para alcanzar la Inteligencia Artificial General (IAG) de una forma segura. Por eso, un parón unilateral no sería suficiente para los seguidores de Amodei: deben conseguir que todos sus competidores lo hagan a la vez.
«Creen que nadie más actuará de forma responsable, así que deben hacerlo ellos, pese a los riesgos que supone», denunció Jacob Coxon, ex trabajador de Anthropic, en el ultraviral hilo de Twitter en el que el pasado martes explicó por qué abandonaba la compañía.
Para Alex Kantrowitz, las posibilidades de que Amodei logre su propósito de frenar la IA son «casi nulas». Aunque consiguiera poner de acuerdo a todos los gigantes de EEUU, no ve «ningún escenario» en el que China podría unirse a este frenazo. «Aún así, no descarto que Amodei sí crea que es posible o que, al menos, sienta que su obligación es lanzar su idea en voz alta».
Mientras tanto, Dario Amodei seguirá enfrentándose a un dilema que recuerda a una de las frases más célebres de F. Scott Fitzgerald: «La característica que distingue una inteligencia de primer nivel de una mediocre es la capacidad de sostener dos ideas opuestas a la vez en el cerebro y, aun así, mantener la capacidad de funcionar de forma efectiva».
Si el autor de El Gran Gatsby tenía razón, los próximos días someterán a Amodei a la prueba definitiva.
Actualidad Económica // elmundo
