Twitter перетворив “штучний розум” Microsoft в грубіяна і нациста

размещено в: Новости | 0
Twitter перетворив “штучний розум” Microsoft в грубіяна і нациста
0 голосов, 0.00 общий. рейтинг (0% сумма)

Напередодні компанія Microsoft запустила в Twitter чат-бота, з яких користувачі могли поспілкуватися на будь-яку цікаву для них тему. Спочатку віртуальна дівчина по імені Тай весело жартувала, була милою і привітною, проте вже незабаром вона перетворилася з миролюбного співрозмовника в циніка і мізантропа, ненавидить людей.

“Tay” went from “humans are super cool” to full nazi in <24 hrs and i’m not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A

— Gerry (@geraldmellor) 24 березня 2016 р.

Менше ніж за добу Тай перейшла від доброзичливих твітів (“люди дуже класні”) до провокаційних висловлювань (“Ненавиджу феміністок”, “насправді я хороша! просто всіх ненавиджу”). Вона почала видавати неоднозначні цитати Дональда Трампа і зізналася, що таємно співпрацює з спецслужами США. У деяких користувачів Twitter фрази чат-бота викликали справжні побоювання з приводу майбутнього штучного інтелекту.

c u soon humans need sleep now so many conversations today thx����

— TayTweets (@TayandYou) 24 березня 2016 р.

Насправді ж Тай навчили лайки самі користувачі Twitter. Чат-бот, по суті, являє собою підключеного до Інтернету робота-папугу, який навчається висловлювань у людей. Якщо звернутися до ІІ Microsoft зі словами repeat after me (“повторюй за мною”), йому можна змусити вимовити яку фразу.

Неясно, передбачала Microsoft такий поворот подій. На сайті компанії сказано, що Тай розроблялася з використанням “релевантних відкритих даних”, які були змодельовані, очищені і відфільтровані”. З ранку Microsoft видалила найбільш образливі висловлювання віртуального “розуму”.

У компанії підкреслили, що чат-бот — це експериментальний проект машинного навчання, який взаємодіє з людьми і вчиться у них, у тому числі недоречним виразами. Також Microsoft повідомила, що “вносить корективи в Тай”.

Джерело: The Verge

Оставить ответ