Глобальні ризики використання чат-ботів, керованих штучним інтелектом
DOI:
https://doi.org/10.37750/2616-6798.2024.3(50).311717Ключові слова:
чат-бот, штучний інтелект, кібербезпека, інформаційні технології, фішинг, конфіденційність, валідація, хакериАнотація
Визначено роль та значення чат-ботів. Розкрито передумови та тенденції використання технологій штучного інтелекту (ШІ) у розробках чат-ботів. Акцентована увага на необхідності визначення критеріїв та показників оцінки ефективності чат-ботів, керованих ШІ. Деталізовані ризики, що виникають у зв`язку з використанням технологій ШІ в чат-ботах, а саме: ризики дискримінації; ризики для кібербезпеки; ризики для конфіденційних даних; етичні ризики, ризики валідації. Визначено умови, особливості та алгоритми використання чат-ботів з використанням ШІ. За результатами дослідження підсумовано, що впровадження чат-ботів на базі генеративного ШІ має як переваги, так і глобальні ризики, пов’язані із злочинним та неправомірним використанням цих технологій. Розкрито загрози та небезпеки, які провокують чат-боти на базі ШІ та їх наслідки. Визначено способи мінімізації ризиків використання чат-ботів, керованих ШІ.
Посилання
Неретін О., Харченко В. Забезпечення кібербезпеки систем штучного інтелекту: аналіз вразливостей, атак і контрзаxодів. Information systems and networks. 2022. № 12. С. 7-20.
Савченко В.А., Шаповаленко О.Д. Основні напрями застосування технологій штучного інтелекту у кібербезпеці. Сучасний захист інформації. 2020. № 4 (44). С. 6-11.
Стьопочкіна І.В., Новіков О.М. Методи штучного інтелекту в кібербезпеці: навч. посіб. для здобувачів. Київ: КПІ ім. Ігоря Сікорського, 2022. 82 с.
Гуржій С.В. Особливості використання штучного інтелекту у питаннях забезпечення кібербезпеки. Інформація і право. № 4(47)/2023. С. 207-216.
Токарєва К.С., Савліва Н.О. Особливості правового регулювання штучного інтелекту в Україні. Юридичний вісник. 2021. № 3(60). С. 148-153.
Цяпа С.М. Огляд зарубіжних законодавчих ініціатив стратегічного використання технологій ШІ в сучасних умовах. Інформація і право. № 2(37)/2021. С. 51-59.
Sebastian, G. (2023). Do ChatGPT and Other AI Chatbots Pose a Cybersecurity Risk?: An Exploratory Study. [IJSPPC]. International Journal of Security and Privacy in Pervasive Computing, 15(1), 1–11. DOI:10.4018/ IJSPPC.320225
Zhou, P. (2023). Unleashing chatgpt on the metaverse: Savior or destroyer? URL: arXiv preprint arXiv:2303.13856
Корнєєва С.Р. Вплив застосування технологій штучного інтелекту на реалізацію та захист прав людини. Аналітично-порівняльне правознавство. – (Електронне наукове видання). 2021. № 4. С. 392-394.
Зачек О.І., Дмитрик Ю.І., Сеник В.В. Роль штучного інтелекту в підвищенні ефективності правоохоронної діяльності. Науковий вісник Львівського державного університету внутрішніх справ. 2023. № 3. С. 148-156.
DNS cache poisoning. URL: https://owasp.org/www-pdf-archive/DNS_Cache_Poisoning (OWASP_GHANA).pdf
Трофименко О.Г. Сфери застосування чат-ботів. Інформаційне суспільство: проблеми та перспективи: матеріали VІІ Всеукраїнської науково-практичної конференції, м. Одеса, 20 трав. 2022 р.. Одеса, 2022. С. 68-71. URL: http://dspace.onua.edu.ua/bitstream/handle/11300/18203
ChatGPT може зливати секретні корпоративні дані: спеціалісти з кібербезпеки б’ють на сполох. URL: https://24tv.ua/tech/chat-boti-zi-shtuchnim-intelektom-stvoryuyut-riziki-dlya-konfidentsiy nosti_n2297236
The 2022 Code of Practice on Disinformation EU. URL: https://digital-strategy.ec.europa.eu/ en/policies/code-practice-disinformation.
The Danger of AI Chatbots – And How to Counter Them. URL: https://www.unite.ai/the-dangers-of-ai-chatbots-and-how-to-counter-them
AI in Cyber Security: Risks of AI: URL: https://www.malwarebytes.com/cybersecurity/ basics/risks-of-ai-in-cyber-security
Recommendation on the Ethics of Artificial Intelligence UNESCO, adopted 25.11.2021. URL: https://unesdoc.unesco.org/ark:/48223/pf0000381137
Ілон Маск запускає Grok – чат-бот, який має стати конкурентом ChatGPT. URL: https://ain.ua/2023/11/06/ilon-mask-zapuskaye-grok
NCSC попереджає: чат-боти з ШІ несуть ризики кібербезпеці. URL: https://proit.org. ua/ncsc-popieriedzhaie-chat-boti-z-shi-niesut-riziki-kibierbiezpietsi
What is an Advanced Persistent Threat (APT)? URL: https://www.cisco.com/c/en/us/ products/security/advanced-persistent-threat.html
