Приємний співрозмовник чи інтернет-бот?

Розумні машини, схожі на людей, – давня мрія людства. Але, як дізнається кореспондент BBC Future, вони вже давно серед нас.

Іноді вам обіцяють секс, іноді ви підпадаєте під чари мудрого та дотепного співрозмовника. Ботів не хвилює, як вас обманути. Єдине, чого вони домагаються, - щоб ви були впевнені, що спілкуєтеся з людиною. Якщо ви користуєтеся соціальними мережами чи проводите якийсь час онлайн, цілком можливо, що ви вже стали жертвою інтернет-бота.

Рік тому на конференції Лондонського королівського товариства вперше в історії чат-бот пройшов тест Тюрінга на оцінку штучного інтелекту комп’ютера. В ході текстових розмов комп'ютерна програма на ім'я Женя Густман переконала суддів, що вона - 13-річний український хлопчик. Здається, це стало революційною подією в світі комп'ютерних технологій.

Чи означає це, що штучний інтелект нарешті досяг рівня людського? Не зовсім. Тест Тюрінга втратив свою важливість для досліджень штучного інтелекту роки тому. Багато вчених вважають, що такі конкурси є упередженими, бо їх можна виграти шляхом обману, наприклад, імітуючи розмову з людиною, яка не є носієм англійської мови.

Але в повсякденному житті чат-боти вміють робити багато цікавих речей. Ми вже оточені ботами, які змушують нас вірити, що вони реальні люди, і ці боти не беруть участі у змаганнях. Деякі з них настільки складні, що вміють проникати у соціальні мережі і навіть впливати на громадську думку.

Таких ботів дуже багато. Хоча більшість людей вважає, що інтернет переважно відвідують люди, це не так. Нещодавнє дослідження виявило, що 61,5% інтернет-трафіку генерується за допомогою автоматизованих програм - ботів.

Медова пастка

Щоб обдурити нас, ці програми зазвичай використовують спокусливі принади, пояснює Річард Воллес, співпрацівник компанії Pandorabots, яка виробляє чат-ботів для обслуговування клієнтів та інших цілей.

Річард Воллес створив бота під назвою Еліс, який три рази перемагав на конкурсі Лебнера, де, подібно до змагань Тюринга, боти мають переконати суддів, що є реальними людьми.

"Автори найкращих ботів - насправді не програмісти, як можна подумати, це люди творчих професій, – пояснює пан Воллес. – Ось у чому ключ до створення успішного бота – його відповіді мають бути правдоподібними, дотепними та цікавими".

Шахраї добре це знають. Нещодавно компанія Cloudmark, яка досліджує безпеку в інтернеті, зафіксувала поширення кокетливого бота під назвою "TextGirlie". Дізнавшись про ім'я жертви та її номер телефону з профілю соціальної мережі, TextGirlie надсилала приватні повідомлення з проханням продовжити розмову в онлайн-чаті. Після нетривалого флірту вона пропонувала жертві натиснути на посилання, яке веде на сайт знайомств для дорослих або сайт із веб-камерою.

За оцінками Cloudmark, програма відправила на мобільні телефони близько 15 мільйонів повідомлень і функціонувала декілька місяців. Як зазначає аналітик компанії, ці дані свідчать, що віртуальна атака була цілком успішною.

Автоматизований обман

Легше за все обдурити користувачів у ситуаціях, коли їх не здивує дивна поведінка чи ламана англійська мова. У далекому 1971 році психіатр Кеннет Колбі зміг переконати кількох колег-практиків, що вони розмовляють із пацієнтом через комп'ютерний термінал. Насправді ж доктор Колбі розробив програму, яка симулювала мовлення параноїдального шизофреніка.

А зовсім недавно, у 2006 році, психолог Роберт Епштейн піддався на обман хитромудрої програми, яка прикидалася російською жінкою і говорила, що закохалася в нього.

Останнім часом боти заполонили сайти онлайн-знайомств, заманюючи все більше нещасних одинаків у пастку автоматизованого обману.

Іноді ботам вдається обдурити навіть досвідчених інтернет-користувачів. Берді Яворські не з чуток знає, як це буває.

Вона є завсідником новинної соціальної мережі Reddit і прихильницею цифрової валюти dogecoin – жартівливого аналога Bitcoin. На форумі Reddit для фанатів dogecoin, користувач на ім'я "wise_shibe" почав активно дописувати дотепні зауваження в стилі стародавніх прислів'їв. "Його відповіді нагадували вислови Конфуція", – згадує Берді Яворські.

Завдяки цим коментарям wise_shibe навіть почав потроху заробляти. Форум дозволяє надсилати невеликі чайові у цифровій валюті користувачам, чий коментар вам сподобався.

Оскільки репліки wise_shibe користувалися популярністю, його просто обсипали "чайовими". Та незабаром все це почало виглядати підозріло: акаунт був активний цілодобово, і врешті-решт коментарі почали повторюватися.

Коли користувачі з'ясували, що wise_shibe - це бот, вони розділилися на два табори. Одні були обурені обманом, інші говорили, що не мають нічого проти. Пані Яворські була здивована, але також почувалася жертвою обману.

"Раптом ми зрозуміли, що цей маленький робот зібрав всі чайові", – каже вона.

Фантомні твітери

Якщо бот виглядає і поводиться достатньо природно, ми навряд чи засумніваємося, що це не людина.

Фабрісіо Беневенуто присвятив серйозне дослідження цьому явищу. Нещодавно він у співавторстві з трьома вченими опублікував статтю, котра пояснює, з якої легкістю соціальні боти можуть проникати у Twitter і поводитися, як реальні користувачі.

Доктор Беневенуто і його колеги створили 120 бот-акаунтів, які мали переконливий профіль із зображенням і характерними гендерними характеристиками. Через місяць вони виявили, що система визначення ботів у Twitter не відреагувала на майже 70% акаунтів. Більше за те, боти були запрограмовані взаємодіяти з іншими користувачами і швидко набрали чималу кількість послідовників ("фоловерів") – загалом майже 5 тисяч.

Наслідки цього не можна недооцінювати. "Якщо в соціальних мережах можна створювати ботів у великих кількостях, вони потенційно можуть використовуватися для впливу на громадську думку. Вони можуть створювати численні повідомлення, які змінюватимуть сприйняття суспільством певних подій", – йдеться у висновках дослідження.

Штучне керування громадською думкою за допомогою цілого батальйону наполегливих ботів називається "астротурфінг".

Його можливий вплив на результати виборів вже викликає стурбованість громадськості, як свідчить опублікований на сайті агентства Reuters заклик заборонити кандидатам використовувати ботів під час передвиборчої кампанії.

"Більш досконалі"

Наслідки астротурфінгу насправді настільки серйозні, що міністерство оборони США почало фінансувати дослідження програмного забезпечення, яке могло би визначати фейкові акаунти в соцмережах.

Додаток під назвою BotOrNot лежить у відкритому доступі в Інтернеті. Проаналізувавши активність акаунту і семантику дописів, програма прогнозує ймовірність того, що акаунтом керує бот, а не людина.

Утім, провідний дослідник проекту Еміліо Феррарі визнає, що система вже може бути застарілою. Програма вчилася розпізнавати ботів на даних Twitter трирічної давності, отже, цілком можливо, що кращі боти сьогодні вміють уникати виявлення.

"Зараз боти є більш досконалими, – пояснює дослідник. – Вони краще маскуються і більш схожі на людей. Тому завдання стає дедалі важчим. Ми навіть не знаємо, яка точність системи у виявленні останніх і найбільш передових ботів".

Схоже, боти будуть удосконалюватися й далі, незалежно від того, пройшли вони тест Тюрінга чи ні. Фріц Кунце з компанії Pandorabots сподівається, що люди навчаться пильніше придивлятися до ніби невинних користувачів соцмереж, які виходять з ними на контакт, і що в майбутньому нас буде не так легко обдурити. Але він також усвідомлює, якими складними будуть виклики найближчого часу.

"Для більшості людей це стане справжнім шоком, – говорить він. – Ці боти будуть дуже, дуже просунуті і зможуть першокласно морочити людям голову".

<italic>Прочитати <bold><link type="page"><caption> оригінал</caption><url href="http://www.bbc.com/future/story/20140609-how-online-bots-are-tricking-you" platform="highweb"/></link></bold> цієї статті англійською мовою ви можете на сайті <bold><link type="page"><caption> BBC Future</caption><url href="http://www.bbc.com/future" platform="highweb"/></link></bold>.</italic>