Д.В. Ланде, Л.Л. Страшной
Black Hat AI - виклики та шляхи протидії
//
Інформаційні технології та безпека. Матеріали XХIV Міжнародної
науково-практичної конференції ІТБ-2024. - Київ: Інжиніринг.
- C. 10-16. ISBN: 978-617-8180-00-3
Досліджуються загрози, пов'язані з розвитком глобального "темного" штучного інтелекту "Black Hat AI",
що може діяти без урахувань інтересів людства. З розвитком великих мовних моделей (LLM) такі мережі
можуть отримати потенціал для складних маніпуляцій із великими даними, дезінформації та навіть
автономного прийняття рішень, небезпечних для людей. Для протидії Black Hat AI
пропонується концепція створення "світлого ШІ", який має стати захисником критичних інфраструктур,
забезпечувати моніторинг і блокування шкідливих ШІ та створювати умови для виживання людства в
умовах технологічної революції. Пропонується модель взаємодії, де людство грає роль слабкого гравця,
який створює сильного союзника для протидії Black Hat AI. Описано етапи створення взаємодії між людством
і White Hat AI, можливі ризики та шляхи їх мінімізації. Розробка White Hat AI потребує міжнародної
співпраці, правового регулювання, відкритості та суворих стандартів безпеки. Пропонується стратегічний
план дій, що дозволить запобігти катастрофічним сценаріям та забезпечити збереження людських цінностей.
Ключові слова:
Black Hat AI, White Hat AI, великі мовні моделі, ботнет, правове регулювання, синергія штучного інтелекту, тика штучного інтелекту, кібербезпека
|