«El pensamiento precede a la acción como el relámpago precede al trueno», escribió el poeta Heinrich Heine. Así ha quedado demostrado con el altruismo eficaz, una doctrina ética ideada por filósofos de Oxford que ha pasado de la torre de marfil a los pasillos del poder con una rapidez asombrosa. Los altruistas eficaces inundan Silicon Valley, forman parte del personal de las principales empresas de inteligencia artificial del mundo… y alarman a la administración Trump. «Estados Unidos NUNCA será un país altruista eficaz», promete el Pentágono. El secretario de Defensa tilda esta filosofía de «altruismo defectuoso»; otros miembros de la administración la califican de «distópica». Tómese esos ataques como una señal de su influencia.Hay quien se queja de que el siglo XXI ha aportado pocas ideas novedosas. En ese vacío han entrado MAGA y compañía, convirtiendo el populismo nostálgico en el gran proyecto político del siglo. Sin embargo, la gran idea del siglo es el altruismo eficaz. Tal y como informamos, lo que comenzó en la década de 2000 como una forma un tanto friki de hacer que las donaciones benéficas fueran más rentables se ha transformado en un movimiento que somete al mundo a cálculos morales complejos, incluso extraños. Para muchos de sus seguidores, la exigencia ética urgente para quienes desean hacer el bien es impedir que la inteligencia artificial acabe con la humanidad.El altruismo eficaz también es importante desde el punto de vista sociológico. Sus partidarios no son numerosos, pero la idea ha cautivado a una generación de jóvenes superdotados que han amasado fortunas en criptomonedas e IA. A medida que la tecnología genere más multimillonarios, los altruistas eficaces destinarán miles de millones de dólares a causas que darán forma a la sociedad. Estas personas ayudaron a fundar OpenAI y Anthropic, los laboratorios líderes, con la convicción de que quienes comprendían los peligros de la IA debían controlar su desarrollo. Hasta cierto punto, ahora lo hacen; aunque, irónicamente, al crear más laboratorios —y, por tanto, competencia—, probablemente hayan acelerado el progreso de la IA.the_economist_0770Y todo esto ha hecho que el altruismo eficaz cobre ahora importancia política. La administración Trump teme que el movimiento consiga frenar el desarrollo de la IA. Ha mantenido una disputa con Anthropic por la negativa de la empresa a permitir que sus modelos se utilicen con fines militares. Los principales defensores del altruismo eficaz reconocen que la IA puede resultar enormemente benigna, pero, aun así, quieren frenar su desarrollo para reducir la posibilidad de que un cerebro artificial imparable se vuelva loco en la búsqueda de objetivos que estén «desalineados» con los de la humanidad.Algunos críticos en Estados Unidos preferirían acelerar la tecnología para evitar que China gane la carrera. Sin embargo, cuando atacan el catastrofismo sobre la IA, les resulta más fácil hacer de frikis que jugar la bola. Afirman que el altruismo eficaz es un movimiento de fanáticos que resulta, según se mire, antidemocrático, peligroso y sectario.Eso es demasiado simplista. Las raíces benéficas del movimiento son, obviamente, dignas de elogio. Al igual que The Economist, los altruistas eficaces están comprometidos con el empirismo y, especialmente desde que se fusionaron con la comunidad «racionalista» en línea, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas y debatirán con entusiasmo cualquier tema, por muy controvertido que sea, en busca de la verdad.Las bases del altruismo eficazEl éxito reiterado de los altruistas eficaces a la hora de predecir el rápido progreso de la IA también ha sido impresionante. Tienen razón en cuanto a los riesgos que la tecnología supone para la humanidad. El 28 de septiembre, OpenAI descartó sus planes de lanzar su último modelo después de que resultara demasiado peligroso en las pruebas. Muchos incidentes de seguridad recientes se asemejan a los escenarios aterradores descritos en los blogs de los altruistas eficaces hace años.Sin embargo, los críticos tienen razón al advertir que los altruistas eficaces llegan a algunas conclusiones extrañas. Al igual que los filósofos utilitaristas que les precedieron, los altruistas eficaces reducen el comportamiento ético a un problema de optimización. ¿Cómo pueden las personas lograr los mejores resultados para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como «cumplir las promesas» o «cuidar de la familia». Lo que importa es reducir el sufrimiento, de forma imparcial y en todas partes.Eso les lleva a incluir un abanico muy amplio de preocupaciones en sus cálculos morales. Es fácil ver que ser ético significa ayudar al prójimo. Los altruistas eficaces se preguntan: ¿por qué no esforzarse igual de mucho para ayudar a quienes están lejos? Al principio, el movimiento orientó a su ejército de personas de alto rendimiento a aceptar puestos de trabajo bien remunerados en el sector financiero y de la consultoría. Su riqueza les permitiría financiar buenas obras, logrando más de lo que habrían conseguido si se hubieran convertido ellos mismos en trabajadores de organizaciones benéficas.El revés de la monedaSin embargo, a medida que se ha ido fortaleciendo, el altruismo eficaz se ha vuelto más extraño. Algunos altruistas eficaces consideran que la distinción moral entre los seres humanos y otros animales es débil, ya que los animales experimentan sufrimiento. Poner fin a la ganadería industrial y ayudar a los camarones son preocupaciones fundamentales. Del mismo modo, tienen un enfoque contraintuitivo del tiempo. Los que aún no han nacido deben tenerse en cuenta en la balanza —y podría haber billones de ellos—. Muchos altruistas eficaces son «largoplacistas» que se sienten obligados a prevenir riesgos en un futuro lejano, incluso si eso priva de recursos a las buenas causas actuales, como ayudar a los más necesitados.Llevado al extremo, este razonamiento puede conducir a una moralidad que no solo es contraria a la intuición, sino también repugnante. Algunos altruistas eficaces piensan que la vida de los insectos es, en conjunto, más valiosa que la vida humana, debido a que hay muchísimos insectos. Hay quien afirma que sería mejor propiciar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena ser vividas que tener tan solo miles de millones con vidas verdaderamente buenas. Otros incluso piensan que el bienestar de las propias IA será algún día de vital importancia. Redirigirían los recursos hacia futuros seres humanos o no humanos, en detrimento de las personas que sufren hoy en día.Altruismo eficaz + IA = p (catástrofe)Es correcto venerar a la razón. Sin embargo, los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento conduce a conclusiones intolerables, debe de haber un paso erróneo oculto. Sin embargo, el instinto de los altruistas eficaces es disfrutar de conclusiones contrarias a la intuición, aunque parezcan perversas. Un problema son los márgenes de error que inevitablemente acompañan a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy en día, y mucho menos a sumas gigantescas que se extienden hacia el futuro, en las que intervienen un número incierto de personas, tasas de descuento, el progreso de la tecnología e innumerables variables más. Otro problema es que la extinción es tan grave que, en una aritmética moral burda, incluso una pequeña probabilidad de que se produzca prevalece sobre las preocupaciones actuales de carne y hueso.Un tercer problema es que, al sopesar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente del individuo. Cualquiera que maneje una hoja de cálculo y haga afirmaciones grandilocuentes sobre el futuro de la humanidad está a un paso de autoproclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones de un vecino pueden llegar a parecer insignificantes.Se supone que la Revolución Francesa se fundó sobre la razón; condujo a la ejecución de monjas. Lenin, también, pensaba que los intelectuales que habían dominado el marxismo entendían los intereses de los trabajadores mejor que los propios trabajadores. Si realmente crees que actúas en nombre de todas las personas, por no hablar de los billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de traer de vuelta la guillotina. El temor, en cambio, es que el control de la IA acabe otorgándoles un gran poder, y que muchos altruistas eficaces de Silicon Valley piensen que solo en ellos se puede confiar para manejar esa tecnología. Esa es una idea alarmante. El argumento de los altruistas eficaces para preocuparse por las IA realmente poderosas es que las máquinas podrían optimizarse para un único objetivo que resultara fatalmente erróneo. Todo el mundo debería preocuparse, además, por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa. «El pensamiento precede a la acción como el relámpago precede al trueno», escribió el poeta Heinrich Heine. Así ha quedado demostrado con el altruismo eficaz, una doctrina ética ideada por filósofos de Oxford que ha pasado de la torre de marfil a los pasillos del poder con una rapidez asombrosa. Los altruistas eficaces inundan Silicon Valley, forman parte del personal de las principales empresas de inteligencia artificial del mundo… y alarman a la administración Trump. «Estados Unidos NUNCA será un país altruista eficaz», promete el Pentágono. El secretario de Defensa tilda esta filosofía de «altruismo defectuoso»; otros miembros de la administración la califican de «distópica». Tómese esos ataques como una señal de su influencia.Hay quien se queja de que el siglo XXI ha aportado pocas ideas novedosas. En ese vacío han entrado MAGA y compañía, convirtiendo el populismo nostálgico en el gran proyecto político del siglo. Sin embargo, la gran idea del siglo es el altruismo eficaz. Tal y como informamos, lo que comenzó en la década de 2000 como una forma un tanto friki de hacer que las donaciones benéficas fueran más rentables se ha transformado en un movimiento que somete al mundo a cálculos morales complejos, incluso extraños. Para muchos de sus seguidores, la exigencia ética urgente para quienes desean hacer el bien es impedir que la inteligencia artificial acabe con la humanidad.El altruismo eficaz también es importante desde el punto de vista sociológico. Sus partidarios no son numerosos, pero la idea ha cautivado a una generación de jóvenes superdotados que han amasado fortunas en criptomonedas e IA. A medida que la tecnología genere más multimillonarios, los altruistas eficaces destinarán miles de millones de dólares a causas que darán forma a la sociedad. Estas personas ayudaron a fundar OpenAI y Anthropic, los laboratorios líderes, con la convicción de que quienes comprendían los peligros de la IA debían controlar su desarrollo. Hasta cierto punto, ahora lo hacen; aunque, irónicamente, al crear más laboratorios —y, por tanto, competencia—, probablemente hayan acelerado el progreso de la IA.the_economist_0770Y todo esto ha hecho que el altruismo eficaz cobre ahora importancia política. La administración Trump teme que el movimiento consiga frenar el desarrollo de la IA. Ha mantenido una disputa con Anthropic por la negativa de la empresa a permitir que sus modelos se utilicen con fines militares. Los principales defensores del altruismo eficaz reconocen que la IA puede resultar enormemente benigna, pero, aun así, quieren frenar su desarrollo para reducir la posibilidad de que un cerebro artificial imparable se vuelva loco en la búsqueda de objetivos que estén «desalineados» con los de la humanidad.Algunos críticos en Estados Unidos preferirían acelerar la tecnología para evitar que China gane la carrera. Sin embargo, cuando atacan el catastrofismo sobre la IA, les resulta más fácil hacer de frikis que jugar la bola. Afirman que el altruismo eficaz es un movimiento de fanáticos que resulta, según se mire, antidemocrático, peligroso y sectario.Eso es demasiado simplista. Las raíces benéficas del movimiento son, obviamente, dignas de elogio. Al igual que The Economist, los altruistas eficaces están comprometidos con el empirismo y, especialmente desde que se fusionaron con la comunidad «racionalista» en línea, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas y debatirán con entusiasmo cualquier tema, por muy controvertido que sea, en busca de la verdad.Las bases del altruismo eficazEl éxito reiterado de los altruistas eficaces a la hora de predecir el rápido progreso de la IA también ha sido impresionante. Tienen razón en cuanto a los riesgos que la tecnología supone para la humanidad. El 28 de septiembre, OpenAI descartó sus planes de lanzar su último modelo después de que resultara demasiado peligroso en las pruebas. Muchos incidentes de seguridad recientes se asemejan a los escenarios aterradores descritos en los blogs de los altruistas eficaces hace años.Sin embargo, los críticos tienen razón al advertir que los altruistas eficaces llegan a algunas conclusiones extrañas. Al igual que los filósofos utilitaristas que les precedieron, los altruistas eficaces reducen el comportamiento ético a un problema de optimización. ¿Cómo pueden las personas lograr los mejores resultados para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como «cumplir las promesas» o «cuidar de la familia». Lo que importa es reducir el sufrimiento, de forma imparcial y en todas partes.Eso les lleva a incluir un abanico muy amplio de preocupaciones en sus cálculos morales. Es fácil ver que ser ético significa ayudar al prójimo. Los altruistas eficaces se preguntan: ¿por qué no esforzarse igual de mucho para ayudar a quienes están lejos? Al principio, el movimiento orientó a su ejército de personas de alto rendimiento a aceptar puestos de trabajo bien remunerados en el sector financiero y de la consultoría. Su riqueza les permitiría financiar buenas obras, logrando más de lo que habrían conseguido si se hubieran convertido ellos mismos en trabajadores de organizaciones benéficas.El revés de la monedaSin embargo, a medida que se ha ido fortaleciendo, el altruismo eficaz se ha vuelto más extraño. Algunos altruistas eficaces consideran que la distinción moral entre los seres humanos y otros animales es débil, ya que los animales experimentan sufrimiento. Poner fin a la ganadería industrial y ayudar a los camarones son preocupaciones fundamentales. Del mismo modo, tienen un enfoque contraintuitivo del tiempo. Los que aún no han nacido deben tenerse en cuenta en la balanza —y podría haber billones de ellos—. Muchos altruistas eficaces son «largoplacistas» que se sienten obligados a prevenir riesgos en un futuro lejano, incluso si eso priva de recursos a las buenas causas actuales, como ayudar a los más necesitados.Llevado al extremo, este razonamiento puede conducir a una moralidad que no solo es contraria a la intuición, sino también repugnante. Algunos altruistas eficaces piensan que la vida de los insectos es, en conjunto, más valiosa que la vida humana, debido a que hay muchísimos insectos. Hay quien afirma que sería mejor propiciar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena ser vividas que tener tan solo miles de millones con vidas verdaderamente buenas. Otros incluso piensan que el bienestar de las propias IA será algún día de vital importancia. Redirigirían los recursos hacia futuros seres humanos o no humanos, en detrimento de las personas que sufren hoy en día.Altruismo eficaz + IA = p (catástrofe)Es correcto venerar a la razón. Sin embargo, los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento conduce a conclusiones intolerables, debe de haber un paso erróneo oculto. Sin embargo, el instinto de los altruistas eficaces es disfrutar de conclusiones contrarias a la intuición, aunque parezcan perversas. Un problema son los márgenes de error que inevitablemente acompañan a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy en día, y mucho menos a sumas gigantescas que se extienden hacia el futuro, en las que intervienen un número incierto de personas, tasas de descuento, el progreso de la tecnología e innumerables variables más. Otro problema es que la extinción es tan grave que, en una aritmética moral burda, incluso una pequeña probabilidad de que se produzca prevalece sobre las preocupaciones actuales de carne y hueso.Un tercer problema es que, al sopesar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente del individuo. Cualquiera que maneje una hoja de cálculo y haga afirmaciones grandilocuentes sobre el futuro de la humanidad está a un paso de autoproclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones de un vecino pueden llegar a parecer insignificantes.Se supone que la Revolución Francesa se fundó sobre la razón; condujo a la ejecución de monjas. Lenin, también, pensaba que los intelectuales que habían dominado el marxismo entendían los intereses de los trabajadores mejor que los propios trabajadores. Si realmente crees que actúas en nombre de todas las personas, por no hablar de los billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de traer de vuelta la guillotina. El temor, en cambio, es que el control de la IA acabe otorgándoles un gran poder, y que muchos altruistas eficaces de Silicon Valley piensen que solo en ellos se puede confiar para manejar esa tecnología. Esa es una idea alarmante. El argumento de los altruistas eficaces para preocuparse por las IA realmente poderosas es que las máquinas podrían optimizarse para un único objetivo que resultara fatalmente erróneo. Todo el mundo debería preocuparse, además, por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa.
«El pensamiento precede a la acción como el relámpago precede al trueno», escribió el poeta Heinrich Heine. Así ha quedado demostrado con el altruismo eficaz, una doctrina ética ideada por filósofos de Oxford que ha pasado de la torre de marfil a los pasillos … del poder con una rapidez asombrosa. Los altruistas eficaces inundan Silicon Valley, forman parte del personal de las principales empresas de inteligencia artificial del mundo… y alarman a la administración Trump. «Estados Unidos NUNCA será un país altruista eficaz», promete el Pentágono. El secretario de Defensa tilda esta filosofía de «altruismo defectuoso»; otros miembros de la administración la califican de «distópica». Tómese esos ataques como una señal de su influencia.
Hay quien se queja de que el siglo XXI ha aportado pocas ideas novedosas. En ese vacío han entrado MAGA y compañía, convirtiendo el populismo nostálgico en el gran proyecto político del siglo. Sin embargo, la gran idea del siglo es el altruismo eficaz. Tal y como informamos, lo que comenzó en la década de 2000 como una forma un tanto friki de hacer que las donaciones benéficas fueran más rentables se ha transformado en un movimiento que somete al mundo a cálculos morales complejos, incluso extraños. Para muchos de sus seguidores, la exigencia ética urgente para quienes desean hacer el bien es impedir que la inteligencia artificial acabe con la humanidad.
El altruismo eficaz también es importante desde el punto de vista sociológico. Sus partidarios no son numerosos, pero la idea ha cautivado a una generación de jóvenes superdotados que han amasado fortunas en criptomonedas e IA. A medida que la tecnología genere más multimillonarios, los altruistas eficaces destinarán miles de millones de dólares a causas que darán forma a la sociedad. Estas personas ayudaron a fundar OpenAI y Anthropic, los laboratorios líderes, con la convicción de que quienes comprendían los peligros de la IA debían controlar su desarrollo. Hasta cierto punto, ahora lo hacen; aunque, irónicamente, al crear más laboratorios —y, por tanto, competencia—, probablemente hayan acelerado el progreso de la IA.
Newsletter
Y todo esto ha hecho que el altruismo eficaz cobre ahora importancia política. La administración Trump teme que el movimiento consiga frenar el desarrollo de la IA. Ha mantenido una disputa con Anthropic por la negativa de la empresa a permitir que sus modelos se utilicen con fines militares. Los principales defensores del altruismo eficaz reconocen que la IA puede resultar enormemente benigna, pero, aun así, quieren frenar su desarrollo para reducir la posibilidad de que un cerebro artificial imparable se vuelva loco en la búsqueda de objetivos que estén «desalineados» con los de la humanidad.
Algunos críticos en Estados Unidos preferirían acelerar la tecnología para evitar que China gane la carrera. Sin embargo, cuando atacan el catastrofismo sobre la IA, les resulta más fácil hacer de frikis que jugar la bola. Afirman que el altruismo eficaz es un movimiento de fanáticos que resulta, según se mire, antidemocrático, peligroso y sectario.
Eso es demasiado simplista. Las raíces benéficas del movimiento son, obviamente, dignas de elogio. Al igual que The Economist, los altruistas eficaces están comprometidos con el empirismo y, especialmente desde que se fusionaron con la comunidad «racionalista» en línea, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas y debatirán con entusiasmo cualquier tema, por muy controvertido que sea, en busca de la verdad.
Las bases del altruismo eficaz
El éxito reiterado de los altruistas eficaces a la hora de predecir el rápido progreso de la IA también ha sido impresionante. Tienen razón en cuanto a los riesgos que la tecnología supone para la humanidad. El 28 de septiembre, OpenAI descartó sus planes de lanzar su último modelo después de que resultara demasiado peligroso en las pruebas. Muchos incidentes de seguridad recientes se asemejan a los escenarios aterradores descritos en los blogs de los altruistas eficaces hace años.
Sin embargo, los críticos tienen razón al advertir que los altruistas eficaces llegan a algunas conclusiones extrañas. Al igual que los filósofos utilitaristas que les precedieron, los altruistas eficaces reducen el comportamiento ético a un problema de optimización. ¿Cómo pueden las personas lograr los mejores resultados para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como «cumplir las promesas» o «cuidar de la familia». Lo que importa es reducir el sufrimiento, de forma imparcial y en todas partes.
Eso les lleva a incluir un abanico muy amplio de preocupaciones en sus cálculos morales. Es fácil ver que ser ético significa ayudar al prójimo. Los altruistas eficaces se preguntan: ¿por qué no esforzarse igual de mucho para ayudar a quienes están lejos? Al principio, el movimiento orientó a su ejército de personas de alto rendimiento a aceptar puestos de trabajo bien remunerados en el sector financiero y de la consultoría. Su riqueza les permitiría financiar buenas obras, logrando más de lo que habrían conseguido si se hubieran convertido ellos mismos en trabajadores de organizaciones benéficas.
El revés de la moneda
Sin embargo, a medida que se ha ido fortaleciendo, el altruismo eficaz se ha vuelto más extraño. Algunos altruistas eficaces consideran que la distinción moral entre los seres humanos y otros animales es débil, ya que los animales experimentan sufrimiento. Poner fin a la ganadería industrial y ayudar a los camarones son preocupaciones fundamentales. Del mismo modo, tienen un enfoque contraintuitivo del tiempo. Los que aún no han nacido deben tenerse en cuenta en la balanza —y podría haber billones de ellos—. Muchos altruistas eficaces son «largoplacistas» que se sienten obligados a prevenir riesgos en un futuro lejano, incluso si eso priva de recursos a las buenas causas actuales, como ayudar a los más necesitados.
Llevado al extremo, este razonamiento puede conducir a una moralidad que no solo es contraria a la intuición, sino también repugnante. Algunos altruistas eficaces piensan que la vida de los insectos es, en conjunto, más valiosa que la vida humana, debido a que hay muchísimos insectos. Hay quien afirma que sería mejor propiciar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena ser vividas que tener tan solo miles de millones con vidas verdaderamente buenas. Otros incluso piensan que el bienestar de las propias IA será algún día de vital importancia. Redirigirían los recursos hacia futuros seres humanos o no humanos, en detrimento de las personas que sufren hoy en día.
Altruismo eficaz + IA = p (catástrofe)
Es correcto venerar a la razón. Sin embargo, los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento conduce a conclusiones intolerables, debe de haber un paso erróneo oculto. Sin embargo, el instinto de los altruistas eficaces es disfrutar de conclusiones contrarias a la intuición, aunque parezcan perversas. Un problema son los márgenes de error que inevitablemente acompañan a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy en día, y mucho menos a sumas gigantescas que se extienden hacia el futuro, en las que intervienen un número incierto de personas, tasas de descuento, el progreso de la tecnología e innumerables variables más. Otro problema es que la extinción es tan grave que, en una aritmética moral burda, incluso una pequeña probabilidad de que se produzca prevalece sobre las preocupaciones actuales de carne y hueso.
Un tercer problema es que, al sopesar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente del individuo. Cualquiera que maneje una hoja de cálculo y haga afirmaciones grandilocuentes sobre el futuro de la humanidad está a un paso de autoproclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones de un vecino pueden llegar a parecer insignificantes.
Se supone que la Revolución Francesa se fundó sobre la razón; condujo a la ejecución de monjas. Lenin, también, pensaba que los intelectuales que habían dominado el marxismo entendían los intereses de los trabajadores mejor que los propios trabajadores. Si realmente crees que actúas en nombre de todas las personas, por no hablar de los billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.
Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de traer de vuelta la guillotina. El temor, en cambio, es que el control de la IA acabe otorgándoles un gran poder, y que muchos altruistas eficaces de Silicon Valley piensen que solo en ellos se puede confiar para manejar esa tecnología. Esa es una idea alarmante. El argumento de los altruistas eficaces para preocuparse por las IA realmente poderosas es que las máquinas podrían optimizarse para un único objetivo que resultara fatalmente erróneo. Todo el mundo debería preocuparse, además, por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa.
RSS de noticias de sociedad
