Microsoft відмовляється від технології зчитування емоцій та обмежує доступ до систем розпізнавання облич через побоювання конфіденційності

Компанія Microsoft оголосила 21 червня про припинення продажів технології, що визначає емоційний стан людини та її стать, на тлі побоювань щодо конфіденційності та відсутності консенсусу щодо визначення поняття «емоції».

Сара Берд, головний менеджер з продуктів групи Microsoft у підрозділі Azure AI, оголосила про це рішення у своєму блозі, зазначивши, що це стало частиною зусиль Microsoft із забезпечення більш відповідального використання технологій штучного інтелекту.

Рішення було прийнято після розлогого аналізу, в результаті якого команда Microsoft розробила "Стандарт відповідального ШІ" і компанія керується ним при розробці та впровадженні продуктів ШІ (штучного інтелекту).

Технологічний гігант також обмежить необмежений доступ до технології розпізнавання облич.

«Ми відмовимося від можливостей аналізу обличчя, які нібито дозволяють робити висновки про емоційний стан та атрибути особистості, таких як стать, вік, усмішка, волосся на обличчі, зачіска та макіяж», — написала Берд.

«Ми співпрацювали з внутрішніми та зовнішніми дослідниками, щоб зрозуміти обмеження та потенційні переваги цієї технології та знайти компроміси. У разі класифікації емоцій виникли важливі питання щодо конфіденційності, відсутності консенсусу щодо визначення емоцій та неможливості узагальнити зв'язок між виразом обличчя та емоційним станом у різних випадках використання, регіонах та демографічних групах», — продовжила Берд.

Вона також зазначила, що доступ через інтерфейс прикладного програмування до «можливостей, що передбачають чутливі атрибути, також відкриває широкий спектр способів їх неправильного використання, включаючи створення стереотипів, дискримінацію чи несправедливу відмову у наданні послуг».

Такі інструменти штучного інтелекту більше не будуть доступні новим клієнтам із 21 червня 2022 року. У існуючих клієнтів буде один рік, перш ніж вони втратять доступ.

"Попри те, що API-доступ до цих атрибутів більше не буде доступний клієнтам для загального використання, Microsoft визнає, що ці можливості можуть бути цінними при використанні для низки контрольованих сценаріїв доступності", — зазначила Берд.

За її словами, Microsoft «як і раніше віддана підтримці технологій для людей з обмеженими можливостями» і продовжуватиме використовувати ці можливості шляхом інтеграції в інші додатки, такі як Seeing AI — безплатний додаток для сліпих або людей з вадами зору, який розповідає про світ.

Microsoft також обмежить доступ до своїх технологій розпізнавання облич, а нові клієнти, які використовують ці технології, повинні отримати попередній дозвіл.

В існуючих клієнтів Azure Face API, Computer Vision та Video Indexer є один рік, щоб подати заявку та отримати дозвіл на подальший доступ на основі наданих ними сценаріїв використання.

З 30 червня 2023 року існуючі клієнти більше не матимуть доступу до цих систем розпізнавання облич, якщо їх додатки не будуть схвалені Microsoft.

Водночас компанія попросила клієнтів уникати ситуацій, що порушують недоторканність приватного життя або дозволяють дізнатися про інтимну особисту інформацію, наприклад, сексуальну орієнтацію людини.

"Можливості розпізнавання облич (включаючи визначення розмитості, експозиції, окулярів, положення голови, орієнтирів, шуму, оклюзії та меж особи) залишаться загальнодоступними і не вимагають застосування", — заявив технологічний гігант.

Рішення Microsoft було невдовзі після того, як інженер Google був відправлений в оплачувану адміністративну відпустку, коли висловив стурбованість з приводу «людиноподібної» поведінки однієї з мовних моделей штучного інтелекту, яку він назвав «колегою» та «дитиною».

За матеріалами The Epoch Times USA