Искусственные интеллектуальные системы и проблема «естественного» доверия

Развитие технологий ИИ обострило проблему гуманитарного, создав вызов на всех уровнях общественных отношений. Этические вопросы и, в частности, проблема доверия стали актуальными для сферы высоких технологий, учитывая тот факт, что ИИ выполняет все более значимые управленческие функции, которые ранее безоговорочно относились к человеку. Этот вопрос напрямую связан с системами искусственного интеллекта, которые уже воплотились в конкретных масштабных проектах. В данном исследовании авторы анализируют концепцию доверия через призму технологического развития. Для этого в исследовании представлен обзор исторических и современных интерпретаций концепции доверия и доказывается, что эта концепция актуальна и необходима для контроля рисков, возникающих при интеграции продуктов искусственного интеллекта в социальную жизнь. Авторы показывают, что требуется переосмысление понятий этики и морали в новом контексте. Это необходимое требование для создания доверенного ИИ и для достижения доверия при взаимодействии человека с технологическими продуктами. Авторы приходят к выводу о необходимости построения междисциплинарного диалога для интеграции теории и практики из многочисленных областей. Для этого необходимо создать общую базу знаний и платформу для общения между всеми заинтересованными сторонами, а также важно сформировать благоприятные условия для устойчивого и конструктивного взаимодействия. Поэтому доверие является актуальной концепцией, которую необходимо строить в многомерной системе координат, ориентированной на различные заинтересованные стороны, особенно с учетом роста взаимодействия между человеком и технологиями, другими словами, на всех уровнях и во всех масштабах.

1. Абрамова А.В. Этика в области искусственного интеллекта от дискуссии к научному обоснованию и практическому применению: аналитический доклад / А.В. Абрамова, А.Г. Игнатьев, М.С. Панова; МГИМО МИД России, Центр искусственного интеллекта; XIII Съезд Российской ассоциации международных исследований (РАМИ) (Москва, 14-16 октября 2021 г.). М.: МГИМО-Университет, 2021. 24 c.

2. Авдошин С.М., Песоцкая Е.Ю. Доверенный искусственный интеллект как способ цифровой защиты // Бизнес-информатика. 2022. No2. C. 62-73.

3. Алексеев А.Ю. Когнитивно-технологические проекты искусственной личности // Человек: образ и сущность. Гуманитарные аспекты. 2014. No. 1. C. 156-174.

4. Болдачев А.В. Эссе: мифы и тупики искусственного интеллекта // Философские проблемы информационных технологий и киберпространства. No. 2 (18). C. 27-41.

5. Бостром, Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. СПб: Манн, Иванов и Фербер, 2016. 490 c.

6. Булавинова М.П. Риски и угрозы новых технологий на основе искусственного интеллекта. (обзор) // Социально-гуманитарные науки. Отечественная и зарубежная литература. Сер. 8, Наука о науке: Реферативный журнал. 2018. No. 2. C. 23-41.

7. Гуров О. Н. Искусственные интеллектуальные системы и решение социальных задач: проблема доверия // Искусственные общества. – 2021 – T. 16 – Выпуск 1 URL: https://artsoc.jes.su/s207751800014095-3-1/. DOI: 10.18254/S207751800014095-3

8. Гуров О. Н. Этичное взаимодействие с интеллектуальными системами // Искусственные общества. – 2020 – T. 15 – Выпуск 3 URL: https://artsoc.jes.su/ s207751800010905-4-1/. DOI: 10.18254/S207751800010905-4

9. Гуров О.Н. Метавселенная — из сумерек во тьму перелетая? // Наука телевидения 2022 18 (1). С. 11–46. DOI: https://doi.org/10.30628/1994-9529-2022-18.1-11-46

10. ДзялошинскийИ.М.Искусственныйинтеллект:Гуманитарнаяперспектива// Вестник Новосибирского государственного университета. Серия: История, филология. 2022. No6. P. 20-29.

11. Дубровский,Давид.(2021).Задачасозданияискусственногообщегоинтеллекта и проблема сознания. Российский журнал философских наук. 64. 13-44. 10.30727/02351188-2021-64-1-13-44.

12. Дубровский, Давид. (2022). Эпистемологический анализ социальной и гуманитарной значимости инноваций искусственного интеллекта в контексте искусственного общего интеллекта. Российский журнал философских наук. 65. 10-26. 10.30727/0235-1188-2022-65-1-10-26.

13. Карпов В. Е., Готовцев П. М., Ройзензон Г. В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. No. 2 (87). P. 84-105.

14. Курцвейл,Р.Эволюцияразума.Какрасширениевозможностейнашегоразума решит многие мировые проблемы. М.: ЭКСМО, 2015. 352 p.

15. Финн В.: «Не все функции естественного интеллекта могут быть формализованы и автоматизированы» // Коммерсантъ URL: https://www.kommersant. ru/doc/4198609?ysclid=lafntgvfcq626184900 (дата обращения: 11/14/2022).

16. Хайдеггер М. Время и бытие: статьи и выступления. M.: Республика, 1993. 447 p.

17. Этика и «цифра» краткое резюме. Робот-врач, робот-учитель, роботполицейский: социальные риски и этические вызовы для промышленности: Краткий обзор политики для второго тома отчета «Этика и цифровые технологии: Этические вызовы цифровых технологий». Москва: РАНХИГС, 2020. 45 с.

18. AI Designed a Fairer Tax System // Hightech.fm URL: https://hightech. fm/2020/05/07/ai-economist (Accessed: 11/14/2022).

19. Anton,Eduard&Kus,Kevin&Teuteberg,Frank.(2021).IsEthicsReallySuchaBig Deal? The Influence of Perceived Usefulness of AI-based Surveillance Technology on Ethical Decision-Making in Scenarios of Public Surveillance. 10.24251/HICSS.2021.261.

20. BarratJ.(2013).Ourfinalinvention:artificialintelligenceandtheendofthehuman era (First). Thomas Dunne Books.

21. Bookstaber,Richard.(2017).TheEndofTheory:FinancialCrises,theFailureofEconomics, and the Sweep of Human Interaction. 10.1515/9781400884964.

22. Comi,Antonio&Nuzzolo,Agostino.(2014).Individualpre-trippathchoicemodelling in transit advisor tools: theoretical and empirical evidences.

23. Goertzel,Ben.(2015).Superintelligence:Fears,PromisesandPotentials:Reflections on Bostrom’s Superintelligence, Yudkowsky’s From AI to Zombies, and Weaver and Veitas’s “Open-Ended Intelligence”. Journal of Ethics and Emerging Technologies. 25.55-87. 10.55613/ jeet.v25i2.48.

24. Gurjar, Arunaben & Patel, Shitalben. (2022). Fundamental Categories of Artificial Neural Networks. 10.4018/978-1-6684-2408-7.ch001.

25. Kopalle, Praveen & Gangwar, Manish & Kaplan, Andreas & Ramachandran, Divya & Reinartz, Werner & Rindfleisch, Aric. (2021). Examining Artificial Intelligence (AI) Technologies in Marketing Via a Global Lens: Current Trends and Future Research Opportunities. International Journal of Research in Marketing. 39. 10.1016/j.ijresmar.2021.11.002.

26. McHale, Brian. (2013). Afterword: Reconstructing Postmodernism. Narrative. 21. 357-364. 10.1353/nar.2013.0020.

27. Muggleton, Stephen, and Nicholas Chater (eds), Human-Like Machine Intelligence (Oxford, 2021; online edn, Oxford Academic, 19 Aug. 2021), https://doi.org/10.1093/ oso/9780198862536.001.0001, accessed 12 Dec. 2022.

28. Munira,Fayzulloeva.(2022).EthicalIdeasoftheAncientWorld.AnnalsofBioethics & Clinical Applications. 5. 10.23880/abca-16000222.

29. Omrani,Nessrine&Rivieccio,Giorgia&Fiore,Ugo&Schiavone,Francesco&Garcia-Agreda, Sergio. (2022). To trust or not to trust? An assessment of trust in AI-based systems: Concerns, ethics and contexts. Technological Forecasting and Social Change. 181. 121763. 10.1016/j.techfore.2022.121763.

30. Palladino, Nicola. (2021). The role of epistemic communities in the «constitutionalization» of internet governance: The example of the European Commission High-Level Expert Group on Artificial Intelligence. Telecommunications Policy. 45. 102149. 10.1016/j.telpol.2021.102149.

31. Ralph, Jason. (2013). The liberal state in international society: Interpreting recent British foreign policy. International Relations. 28. 3-24. 10.1177/0047117813486822.

32. Rawat,Romil&Yadav,Rishika.(2021).BigData:BigDataAnalysis,IssuesandChallenges and Technologies. IOP Conference Series: Materials Science and Engineering. 1022. 012014. 10.1088/1757-899X/1022/1/012014.

33. Schneider,S.(2019).ArtificialYou:AIandtheFutureofYourMind.PrincetonUniversity Press. https://doi.org/10.2307/j.ctvfjd00r

34. Schultz, Robert A. “Political Realism and the Society of Societies.” In Information Technology and the Ethics of Globalization: Transnational Issues and Implications. Hershey, PA: IGI Global, 2010. https://doi.org/10.4018/978-1-60566-922-9.ch006

35. Thanetsunthorn,Namporn.(2021).Organizationdevelopmentandculturalvaluesof trust in international contexts. Review of International Business and Strategy. ahead-of-print. 10.1108/RIBS-04-2021-0054.

36. The AI Economist: Improving Equality and Productivity with AI-Driven Tax Policies // Salesforce URL: https://blog.salesforceairesearch.com/the-ai-economist/ (Accessed 11/14/2022).

37. Vakkuri,Ville&Kemell,Kai-Kristian&Jantunen,Marianna&Abrahamsson,Pekka. (2020). “This is Just a Prototype”: How Ethics Are Ignored in Software Startup-Like Environments. 10.1007/978-3-030-49392-9_13.