Microsoft запропонувала заборонити ШІ обманювати людей

Microsoft представила проект «Кодекс поведінки» для майбутніх моделей штучного інтелекту. Документ встановлює правила, яким, згідно з задумом компанії, повинні дотримуватись ШІ-системи: вони не повинні зламувати комп'ютерні системи, обманювати людей, видавати себе за людину або використовувати методи прихованої маніпуляції.  Про це повідомляє TradeMaster.UA з посиланням на MediaPost.

Окремо Microsoft вимагає, щоб ШІ не чинив опір виправленню чи відключенню з боку людини. Моделі також повинні зрозуміло пояснювати свої дії, не приховувати, що є штучним інтелектом, і не заявляти про наявність почуттів, свідомості чи душі. Будь-яке порушення цих правил пропонується вважати помилкою системи.

Кодекс також запроваджує обмеження для потенційно небезпечних сценаріїв використання ШІ. Моделі не повинні брати участь у створенні зброї, допомагати з придбанням небезпечних речовин або кібератаки. Крім того, документ забороняє генерацію контенту сексуального та насильницького характеру.

Microsoft зазначає, що документ поки що є проектом і відкритий для відгуків. Його розробка велася за участю фахівців у галузі ШІ, права, етики, філософії та державної політики. Підхід планується застосовувати під час створення майбутніх моделей компанії, включаючи мультимодальні системи MAI та Humanist AI.

У Microsoft вважають, що зі зростанням можливостей ШІ все більш важливими стають питання контролю та безпеки. Тому компанія пропонує заздалегідь визначити межі поведінки систем, які у майбутньому можуть значно перевершувати людину окремих інтелектуальних завданнях.

Читайте також: Співробітники Microsoft витрачають на ШІ в середньому $300 на місяць

Автор: Андрій Іванов

TradeMaster в соціальних мережах

З приводу розміщення новин пишіть на press@trademaster.com.ua