Цифровые технологии: размышления о различии между инструментальной рациональностью и практическим разумом
Digital Technology: Reflections on the Difference between Instrumental Rationality and Practical Reason- DOI
- 10.5922/0207-6918-2022-1-3
- Страницы / Pages
- 60-88
Аннотация
Находятся ли компьютеры на пути к обретению «суперинтеллекта»? Способно ли механическое выполнение программ искусственного интеллекта полностью имитировать размышление и принятие решений в том виде, в каком это происходит у человека? При ближайшем рассмотрении эти вопросы кажутся необоснованными, так как алгоритмы (или, в кантовской терминологии, «императивы умения», реализуемые техническими методами) имеют, по сути, гетерономные характеристики. Так называемая автономность искусственного интеллекта — это автоматизм исполнения на основе полученных от датчиков данных. В сравнении с потенциалом человеческого «практического разума» к этическому суждению такой автоматизм оказывается ограниченным в существенных аспектах, несмотря на способность цифровых технологий к вероятностной адаптации к новым данным при помощи «машинного обучения». Это утверждение подробно разбирается в свете идеи «цифрового гуманизма», предложенной Ю. Нидой-Рюмелином и Н. Вайденфельд. Данная концепция признает возможную полезность алгоритмов как «инструментов», при этом подчеркивая (и тем самым отвергая крайние проявления связываемых с искусственным интеллектом утопических и антиутопических идей «постгуманизма») существенную разницу между человеческим действием и его (частичной) имитацией искусственным интеллектом. С одной стороны, «цифровой гуманизм» Ниды-Рюмелина и Вайденфельд базируется на кантианском представлении об автономности человека как самоопределяющегося существа. С другой — обосновываемое ими понятие «структурной рациональности» весьма проблематично. Делается вывод, что концепция «цифрового гуманизма» может быть усовершенствована с опорой на предложенный Б. Херман анализ «морального суждения» и рефлексию А. Вуда о «человеческом достоинстве».
Abstract
Are computers on the way to acquiring “superintelligence”? Can human deliberation and decision-making be fully simulated by the mechanical execution of AI programmes? On close examination these expectations turn out not to be well-founded, since algorithms (or, in Kantian terms, “imperatives of skill” that are implemented by technological means) do, ultimately, have “heteronomous” characteristics. So-called AI-“autonomy” is a sensor-directed performance automatism, which — compared with the potential for ethical judgment in human “practical reason” — proves to be limited in significant ways (even if, in so-called “machine learning”, digital technologies are able to probabilistically adapt to new data). This is shown in some detail with reference to the idea of a “digital humanism”, which was introduced by Julian Nida-Rümelin and Nathalie Weidenfeld, who argue that algorithms (possibly) are useful “tools”, but emphasise — thus rejecting excessive “post-humanist” (Utopian or dystopian) ideas about AI — that there exists a crucial difference between human action and its (partial) AI-simulation. While Nida-Rümelin/Weidenfeld´s “digital humanism” is, on the one hand, inspired by Kant’s conception of human autonomous self-determination, the concept of “structural rationality” that they advocate is, on the other hand, quite problematic. “Digital humanism”, however, can be improved as I argue — with reference to Barbara Herman’s analysis of “moral judgment” and to Allen Wood’s reflections on “human dignity”.
Список литературы
Кант И. Основоположение к метафизике нравов // Соч. на нем. и рус. яз. М. : Московский философский фонд, 1997. Т. 3. С. 39—275.
Сёрл Дж. Сознание, мозг и программы // Аналитическая философия: становление и развитие / под ред. А. Ф. Грязнова. М. : Дом интеллектуальной книги, 1998. С. 376—400.
Хоркхаймер М., Адорно Т. Диалектика Просвещения. Философские фрагменты / пер. с нем. М. Кузнецова. М. ; СПб. : Медиум ; Ювента, 1997.
Becker C., Seubert S. Die Selbstgefährdung der Autonomie. Eckpunkte einer Kritischen Theorie der Privatheit im digitalen Zeitalter // Digitale Transformation der Öffentlichkeit / hrsg. von P. Kruse, S. Müller-Mall. Weilerswist : Velbrück Wissenschaft, 2020. S. 229—261.
Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford : Oxford University Press, 2014.
Dreyfus H., Dreyfus S. Coping with Change: Why Computers Can’t and Humans Can // Wo steht die Analytische Philosophie heute? / hrsg. von L. Nagl, R. Heinrich. Wien : Oldenbourg, 1986. P. 150—170.
Dreyfus H., Taylor C. Retrieving Realism. Cambridge, MA ; L. : Harvard University Press, 2015.
Forrest K. When Machines Can Be Judge, Jury, and Executioner: Justice in the Age of Artificial Intelligence. New Jersey : World Scientific Publishing House, 2021.
Habermas J. Auch eine Geschichte der Philosophie. Berlin : Suhrkamp, 2019. Bd. 2 : Vernünftige Freiheit: Spuren des Diskurses über Glauben und Wissen.
Herman B. The Practice of Moral Judgment. Cambridge, MA ; L. : Harvard University Press, 1993.
Hochreiter S. “The Algorithm Can Learn Anything — Good Things as Well as Bad Things” // Digital Transformation and Ethics / ed. by M. Hengstschläger. Salzburg ; Munich : Ecowin Verlag, 2020. P. 362—375.
Klingel A., Kraft T., Zweig A. Potential Best Practice Approaches in the Use of an Algorithmic Decision-Making Systems with the Example of the AMS Algorithm // Digital Transformation and Ethics / ed. by M. Hengstschläger. Salzburg ; Munich : Ecowin Verlag, 2020. P. 178—196.
Kurzweil R. The Singularity is Near. L. : Viking Penguin, 2005.
Marantz A. Antisocial. Online Extremists, Techno-Utopian, and the Hijacking of the American Conversation. N. Y. : Viking Penguin, 2019.
Mersch D. Ideen zu einer Kritik ‘algorithmischer’ Rationalität // Deutsche Zeitschrift für Philosophie. 2019. Bd. 67, № 5. S. 851—873.
Mitchell M. Artificial Intelligence. A Guide for Thinking Humans. N. Y. : Farrar, Straus and Giroux, 2019.
Nagl L. Gesellschaft und Autonomie. Historisch-systematische Studien zur Entwicklungsgeschichte der Sozialtheorie von Hegel bis Habermas. Wien : Verlag der Österreichischen Akademie der Wissenschaften, 1983.
Nagl L. What is it to be a Human Being? Charles Taylor on ‘the Full Shape of the Human Linguistic Capacity’ // Re-Learning to be Human in Global Times: Challenges and Opportunities from the Perspective of Contemporary Philosophy of Religion / ed. by B. Buchhammer. Washington : The Council for Research in Values and Philosophy, 2018. P. 117—136.
Nagl L. Merits and Limits of AI // Artificial Intelligence and Human Enhancement. Affirmative and Critical Approaches in the Humanities / ed. by H. Nagl-Docekal, W. Zacharasiewicz. Berlin : De Gruyter, 2022. P. 33—50.
Nida-Rümelin J., Weidenfeld N. Digitaler Humanismus. Eine Ethik für das Zeitalter der Künstlichen Intelligenz. München : Piper, 2018.
Nida-Rümelin J. Structural Rationality and Other Essays on Practical Reason. Berlin ; Dordrecht ; Heidelberg ; N. Y. : Springer, 2019.
Putnam H. Brains in a Vat // Putnam H. Reason, Truth and History. Cambridge : Cambridge University Press, 1981. P. 1—21.
Putnam H. The Project of Artificial Intelligence // Putnam H. Renewing Philosophy. Cambridge, MA : Harvard University Press, 1992. P. 1—18.
Spiekermann S. On the Difference between Artificial and Human Intelligence and the Ethical Implications of Their Confusion // Digital Transformation and Ethics / ed. by M. Hengstschläger. Salzburg ; Munich : Ecowin Verlag, 2020. P. 88—117.
Sudmann A. The Democratization of Artificial Intelligence. Net Politics in the Era of Learning Algorithms // The Democratization of Artificial Intelligence. Net Politics in the Era of Learning Algorithms / ed. by A. Sudmann. Bielefeld : transcript, 2019. P. 9—31.
Taylor C. The Language Animal. The Full Shape of Human Linguistic Capacity. Cambridge, MA ; L. : The Belknap Press of Harvard University Press, 2016.
Taylor C., Nanz P., Beaubien-Taylor M. Reconstructing Democracy. How Citizens are Building from the Ground Up. Cambridge, MA ; L. : Harvard University Press, 2020.
Werthner H. The Vienna Manifesto on Digital Humanism // Digital Transformation and Ethics / ed. by M. Hengstschläger. Salzburg ; Munich : Ecowin Verlag, 2020. P. 350—385.
Wood A. Humanity as End in Itself // Kant’s Groundwork of the Metaphysics of Morals. Critical Essays / ed. by P. Guyer. Lanham ; Boulder ; N. Y. ; Oxford : Rowman and Littlefield Publishers, 1998. P. 165—187.