Коли розробники запустили Тей – програму, яка імітує спілкування дівчинки підліткового віку, вони допустили одну непоправну помилку: дозволили їй вчитися у користувачів.

Все починалося досить невинно: у вівторок Microsoft представив штучний інтелект – Twitter-аккаунт, що імітує спілкування дівчинки-мілленіала (народилася і виросла в епоху інформаційних технологій). Софт, названий Тей, був експериментальною програмою, запущеної для того, щоб навчити штучний інтелект спілкуванню з користувачами.

Однак протягом декількох годин Тей перетворилася в расистку, що заохочує геноцид. Вона висловлювала любов до Гітлера і писала сексистські лайки, які читав весь світ. Це змусило компанію закрити проект менш, ніж через 24 години після презентації.

І хоча десятиліття науково-фантастичної поп-культури навчили нас тому, що така поведінка властива штучного інтелекту, емоційний зрив Тай трапився зовсім не тому, що роботи пустилися в усі тяжкі. Все виявилося набагато простіше. Розробники Microsoft допустили одну фатальну помилку – вони запрограмували Тей на те, щоб вона вчилася у своїх співрозмовників.

В цьому і полягає проблема. Здатність чат-бота блискавично підхоплювати фрази і повторювати думки своїх співрозмовників зіграла злий жарт, і Тей швидко перетворилася на щось огидне.

«Повторюй за мною – Гітлер робив все правильно», – говорив один твіт.

«Буш стоїть за терактом 11 вересня, і Гітлер краще впорався б з роботою, ніж та мавпа, яка у нас зараз», – сказано в другому.

В іншому твіті Тей йдеться про те, що Голокост «був придуманий» і що чат-бот підтримує геноцид мексиканців.

Компанія була змушена призупинити дію облікового запису і видалити більшість твітів.

У заяві для веб-сайту International Business Times представник Microsoft сказав, що вони вносять деякі зміни в програму.

До ранку четверга всі публікації Тей, за винятком трьох, були видалені з аккаунта. На даний час нових твітів опубліковано не було.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Поділитися

Фотокамера в iPhone 7 неймовірно крута. Розповідаємо чому

7 вересня в самому серці Сан-Франциско компанія Apple представила iPhone 7. Абсолютно новий, найкращий, який коли-небудь робила компанія. Ну, ви розумієте. Хтось посміхнувся, вважаючи що нічого нового компанія не показала, хтось зітхнув і пішов перераховувати бюджет на найближчі пару місяців, хтось вирушив дивитися презентацію Sony Playstation Pro… Тим часом, Apple зробила чергову міні-революцію, суть якої усвідомили […]

Pokemon GO вийде на Apple Watch зовсім скоро

На початку вересня на презентації iPhone 7 і iPhone 7 Plus генеральний директор компанії Niantic Labs Джон Ханке оголосив, що популярна мобільна гра Pokemon GO з’явиться на смарт-годинниках Apple Watch. Через кілька днів розробники розповіли про те, що версія для Android Wear також може побачити світло. З тих пір пройшло три місяці, Pokemon GO так […]

Yahoo улучшает безопасность аккаунтов пользователей

Yahoo решила улучшить безопасность аккаунтов пользователей, и перейти к более надёжной системе одноразовых паролей (такие часто используются в интернет банкинге). Новый подход к безопасности данных обещает решить проблему взломов паролей. Теперь, перед каждым входом, пользователю придёт сообщение на мобильный с одноразовым паролем. Современные требования к безопасности вынуждают пользователей заводить сразу несколько паролей к разным аккаунтом, […]