Microsoft відстежила хакерів із Китаю, Росії та Ірану, які використовують для обману OpenAI (ВІДЕО)
Хакери з Росії, Китаю та Ірану, підтримувані державою, використовують інструменти OpenAI від Microsoft для відточування своїх навичок і обману своїх цілей, йдеться в доповіді, опублікованій у середу.
У своєму звіті Microsoft повідомила, що відстежувала хакерські групи, пов'язані з російською військовою розвідкою, іранською Революційною гвардією, а також урядами Китаю і Північної Кореї, коли вони намагалися вдосконалити свої хакерські кампанії за допомогою великих мовних моделей. Ці комп'ютерні програми, які називають штучним інтелектом, використовують величезні обсяги тексту, щоб генерувати відповіді, схожі на людські.
Компанія ввела повну заборону на використання її продуктів штучного інтелекту хакерськими групами, підтримуваними державою.
"Ми просто не хочемо, щоб ті суб'єкти, яких ми ідентифікували — які, як ми відстежуємо і знаємо, є суб'єктами різних загроз, — мали доступ до цієї технології", — сказав віцепрезидент Microsoft з безпеки клієнтів Том Берт в інтерв'ю Reuters перед публікацією звіту.
Представники російської, північнокорейської та іранської дипломатій не одразу відповіли на повідомлення з проханням прокоментувати ці звинувачення.
Представник посольства Китаю в США Лю Пен'юй заявив, що Китай виступає проти "безпідставних наклепів і звинувачень на адресу Китаю" і виступає за "безпечне, надійне і контрольоване" впровадження технологій ШІ для "підвищення загального добробуту всього людства".
Твердження про те, що підтримувані державою хакери були спіймані на використанні інструментів ШІ для розширення своїх шпигунських можливостей, імовірно, підкреслить побоювання з приводу швидкого поширення цієї технології та її потенціалу для зловживань. Високопоставлені чиновники з кібербезпеки на Заході з минулого року попереджали, що зловмисники використовують такі інструменти, хоча конкретні дані досі були невеликими.
"Це один із перших, якщо не перший, випадок, коли компанія, що займається розробкою ШІ, публічно обговорює, як суб'єкти кібербезпеки використовують технології ШІ", — сказав Боб Ротстед, який очолює відділ аналізу загроз кібербезпеки в OpenAI.
Хакери, які, ймовірно, працюють від імені російського військового шпигунського агентства, відомого як ГРУ, використовували моделі для вивчення "різних супутникових і радарних технологій, які можуть належати до звичайних військових операцій в Україні", йдеться в повідомленні Microsoft.
За словами Microsoft, північнокорейські хакери використовували моделі для створення контенту, "який, імовірно, використовувався у фішингових кампаніях" проти регіональних експертів.
Іранські хакери також використовували моделі для написання більш переконливих листів, зокрема, за їхньою допомогою вони склали повідомлення, в якому намагалися заманити "видних феміністок" на сайт-пастку.
Хакери, підтримувані китайською державою, також експериментували з великими мовними моделями, наприклад, щоб ставити запитання про конкуруючі спецслужби, проблеми кібербезпеки і "видатних особистостей".