La noción de riesgo existencial y sus problemas
Resumen
La noción de riesgo existencial, en el sentido de factor natural o artificial que puede poner en peligro la existencia de nuestra especie, comienza a ser usada de forma amplia en los discursos sobre el futuro de la humanidad. Este uso puede ser útil para tomar consciencia de los peligros que acechan a nuestra especie si no tomamos a tiempo las medidas oportunas, particularmente en lo que se refiere al impacto de las nuevas tecnologías sobre el medio ambiente y sobre las sociedades humanas. No obstante, conviene tener claro que el origen de dicha noción en el seno de las discusiones del transhumanismo y el largoplacismo la impregna de unas connotaciones problemáticas de las que habría que despojarla si deseamos que su uso no se vea comprometido por ciertos supuestos discutibles. En este trabajo se proporcionará una explicación de las principales críticas que cabe hacer a estos supuestos.
Referencias
AAAI (2025). AAAI 2025 Presidential Panel on the Future of AI Research. Washington. https://aaai.org/wp-content/uploads/2025/03/AAAI-2025-PresPanel-Report-Digital-3.7.25.pdf
Benders, E.M., Gebru, T., McMillan-Major, A. y Shmitchell, S.. (2021), On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, FAccT '21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency: 610 – 623. https://doi.org/10.1145/3442188.3445922
Bostrom, N. (2002). Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards, Journal of Evolution and Technology, 9(1). https://nickbostrom.com/existential/risks.pdf
Bostrom, N. (2009). Pascal's mugging, Analysis, 69(3), 443-445, https://doi.org/10.1093/analys/anp062
Bostrom, N. (2013). Existential Risk Prevention as Global Priority, Global Policy, 4(1), 15-31.
Bostrom, N. y Cirkovic, M.M. (eds) (2008). Global Catastrophic Risks. Oxford University Press.
Chappell, R.Y., Meissner, D., y MacAskill, W. (2023). Ética de la población. En R.Y. Chappell, D. Meissner, y W. MacAskill (eds.), Introducción al utilitarismo, https://www.utilitarismo.net/etica-de-la-poblacion
Cotton-Barratt, O., & Ord, T. (2015). Existential risk and existential hope: definitions. Future of Humanity Institute. https://ora.ox.ac.uk/objects/uuid:e14d5677-b98b-427b-a02c-d681351713c9
Crary, A. (2023). The Toxic Ideology of Longtermism, Radical Philosophy 2.14. https://www.radicalphilosophy.com/commentary/the-toxic-ideology-of-longtermism
Gardiner, B. (2025). La ideología de la salvación tecnológica o cómo los multimillonarios juegan con el futuro de la humanidad, MIT Technology Review, 31 de julio. https://technologyreview.es/article/la-ideologia-de-la-salvacion-tecnologica-o-como-los-multimillonarios-juegan-con-el-futuro-de-la-humanidad/
Gebru, T. y E. Torres (2024). The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence, First Monday, 29(4). https://doi.org/10.5210/fm.v29i4.13636
Heaven, W. D. (2023). How existential risk became the biggest meme in AI, MIT Technology Review, 19 de junio. https://www.technologyreview.com/2023/06/19/1075140/how-existential-risk-became-biggest-meme-in-ai/
Kirsch, A. (2023). The Revolt Against Humanity. Columbia Global Reports.
Kurzweil, R. (2012). La singularidad está cerca. Cuando los humanos trascendamos la biología. Lola Books.
Lamy, P. et al. (2013). Now for the Long Term: The Report of the Oxford Martin Commission for Future Generations. https://oms-www.files.svdcdn.com/production/downloads/commission/Oxford_Martin_Now_for_the_Long_Term.pdf
Leslie, J. (1996). The End of the World: The Science and Ethics of Human Extinction. Routledge.
Lundgren, B. y Kudlek, K. (2024). What we owe (to) the present: Normative and practical challenges for strong longtermism, Futures, 164, 103471. https://doi.org/10.1016/j.futures.2024.103471
Lewis, C. S. (2016). La abolición del hombre. Encuentro.
MacAskill, W. (2022a). The Case for Longtermism, The New York Times, 2022/08/05. https://www.nytimes.com/2022/08/05/opinion/the-case-for-longtermism.html
MacAskill, W. (2022b). What We Owe the Future. Basic Books.
Moynihan, T. (2020). Existential risk and human extinction: An intellectual history, Futures, 116, 102495. https://doi.org/10.1016/j.futures.2019.102495
Ord, T. (2020). The Precipice. Existential Risk and the Future of Humanity. Hachette Books.
Parfit, D. (1984). Reasons and Persons. Clarendon Press.
Rueda, J. (2024). Genetic enhancement, human extinction, and the best interests of posthumanity, Bioethics, 38, pp. 529-538. https://doi.org/10.1111/bioe.13085
Rushkoff, D. (2023). La supervivencia de los más ricos, Capitán Swing.
Schuster, J. y Woods, D. (2021). Calamity Theory: Three Critiques of Existential Risk. University of Minnesota Press.
Sebo, J. (2023). The Rebugnant Conclusion: Utilitarianism, Insects, Microbes, and AI Systems, Ethics, Policy & Environment, 26(2), 249-264. https://doi.org/10.1080/21550085.2023.2200724
Singer, P. (2021). The Hinge of History, Project Syndicate. https://www.project-syndicate.org/commentary/ethical-implications-of-focusing-on-extinction-risk-by-peter-singer-2021-10
Thorstad, D. (2025). The Scope of Longtermism, Australasian Journal of Philosophy, 1-22. https://doi.org/10.1080/00048402.2025.2521030
Torres, E.P. (2021). The Dangerous Ideas of ‘Longtermism’ and ‘Existential Risk’, Current Affairs, 28 de julio. https://www.currentaffairs.org/news/2021/07/the-dangerous-ideas-of-longtermism-and-existential-risk
Torres, E.P. (2025a). The Endgame of Edgelord Eschatology, Truthdig. https://www.truthdig.com/articles/the-endgame-of-edgelord-eschatology/
Torres, E.P. (2025b). On the extinction of humanity, Synthese, (2025) 206:30. https://doi.org/10.1007/s11229-025-05094-4
Torres, P. (2023). Existential risks: a philosophical analysis, Inquiry, 66(4), pp. 614-639. https://doi.org/10.1080/0020174X.2019.1658626
Unruh, C.F. (2025). Against a Moral Duty to Make the Future Go Best, en H. Greaves, J. Barret y D. Thorstad (eds.), Essays on Longtermism. Present Action for the Distant Future, Oxford University Prees, 139-149.