18 марта 2021 года под патронажем Института Информационной Безопасности в Киеве прошла встреча, посвященная теме ботоферм «Как эффективно противостоять ботофермам и использовать их в свою пользу», и «Who is Who» является медиа-партнером данного события. На встрече будут рассмотрены вопросы, связанные, как с активной обороной и противодействием информационным атакам, так и с использованием ботоферм для решения маркетинговых задач.

Время от времени на «Who is Who» мы уже обращались к теме ботоферм, однако мало кто понимает, что эта тема сейчас очень актуальна именно в мировом масштабе. Современный мир превратился в мир фейков и фантомов. Мир теней – ботофермы нового поколения, о них вы не знаете ничего, зато о вас знают все и могут этим манипулировать. Это кибернетическая система, где главными действующими лицами являются боты, а не люди. И прогнозы неутешительны…

Боты. Кто они?

«Боты» – это зачастую сотни реальных людей, которые получают деньги за то, что пишут комментарии с аккаунтов с выдуманными именами и чужими фотографиями. Делается это организованно. На работу такие люди нанимаются через объявления о вакансиях «копирайтер», «рерайтер», «редактор текстов» и так далее. Кроме рядовых ботов – исполнителей, существуют еще кураторы – руководители подразделений ботов. Существуют и руководители кураторов – они ведут переговоры с заказчиками и определяют, какое задание нужно выполнить, сколько это будет стоить.

«СБУ раскрыла сеть ботоферм», «СБУ заблокировала три ботофермы», «СБУ заявила о разоблачении российских ботоферм» — частые новости украинского информационного пространства. В условиях 21 века каждый гражданин, любая организация, различный бизнес-сектор абсолютно не защищены.  Даже общаясь в социальных сетях с тем или иным человеком, вы не можете быть уверены на все 100%  в том, что по ту сторону монитора сидит живой человек.

Термин «ботоферма» в обществе часто воспринимается как организованная группа людей, которые пишут оплачиваемые сообщения, выгодные заказчику, и публикуют их в интернете со специально созданных аккаунтов. У всех на слуху скандалы с использованием таких ботоферм в период политических кампаний, и во время активных фаз недобросовестной конкуренции. Дезинформация, атака на информационные ресурсы и массовые жалобы — это всего лишь малая часть функционала подобных структур.

В Украине стало очень популярным заказывать услуги ботоферм, которые попросту поливают грязью любого политического оппонента. В простонародье их называют боты-тролли. Появились даже такие понятия, как «порохобот» и «ЗЕбот», исходя из симпатий к определенному политику. Существует два вида ботоферм. В одном случае, это живые люди, которые сидят за компьютерами и под чужими аккаунтами в социальных сетях ведут бурную деятельность. Обычно наша СБУ «разоблачает» именно такие сети. Второй вариант –  автоматизированные боты, они как правило подключены к системе искусственного интеллекта и способны даже односложно отвечать на ваши сообщения. 

Ботофермы на Западе

В западной терминологии отсутствует слово «ботоферма», наиболее близким термином, который там используют, будет «скоординированное сфальсифицированное поведение» (Coordinated Inauthentic Behavior). Скоординированное сфальсифицированное поведение — это когда группы страниц или людей работают вместе, чтобы ввести в заблуждение других. Фальшивые аккаунты занимают здесь центральное место. Обманчивое поведение является основным критерием.

Обратите внимание, что боты в данном случае могут быть фейковыми аккаунтами, действующими на базе определенных алгоритмов, а также действовать совместно с реальными людьми, которые ими управляют. Все зависит от конфигурации ботофермы.

Ещё одним очень распространенным термином на Западе является «Сancel culture».

Cancel culture (or call-out culture) — это современная форма остракизма, при которой кого-то вытесняют из социальных или профессиональных кругов – будь-то онлайн, в социальных сетях или лично. О тех, кто подвергается этому остракизму, говорят, что они “cancelled”. Данный метод применяется, когда требуется, чтобы человек или определённая группа лишились поддержки и/или подверглись осуждению и порицанию в социальных или профессиональных сообществах.

Для того, чтобы вы могли глубже проникнуть в тему ботоферм и понять, что скрывается за узкоспециализированными терминами, мы подготовили для вас список из наиболее используемых:

Clickfarms — в американской прессе то же, что и botfarms (фермы, обеспечивающие клики и реакции).

Bottraffic — интенсивность и процентное соотношение участия ботов в формировании информационного фона.

Аuthenticationmethods — методы выявления аутентичности (по сути, бот перед нами или живое существо).

Аrtificial-intelligence-driventextgeneration — генерация текстовых сообщений на основе искусственного интеллекта (один из предметов исследования диджитал экологии).

Каждый 7-ой пользователь в интернете – бот

Тема ботоферм не просто актуальна, в наше время она стала сверхактуальной в мировом масштабе. Для одних людей ботоферма создает проблемы, а для тех, кто смог освоить этот инструмент, она является крайне полезной и эффективной для решения разного рода задач. Данную тему уже не один год серьезно изучают практически во всех крупных американских университетах: Оксфордском, Массачусетском, Вашингтонском, Нью-Йоркском, университете Индианы. Что они изучают? Каким образом эти коммуникационные технологии влияют на понятие социального неравенства, как новые информационные технологии используются в гражданском обществе как рычаг социального контроля. Каждый год в США проводятся соответствующие саммиты.

«Влияние этих технологий на нашу жизнь в Украине не исследуется», – рассказал «Who is Who» Андрей Францев, специалист по информационной безопасности. – «На Западе же «проникновение» через соцсети намного глубже. И там люди обеспокоены, насколько сильно боты формируют это влияние, ведь не было ни одной серьезной информационной кампании без участия ботов. Поэтому на Западе происходит изучение этих инструментов в научных кругах, а у нас нет никому до этого дела. Но на мой взгляд, наступит время, когда эта тема будет серьезно изучаться. Правда мы сейчас, по сути, являемся обслуживающим персоналом для Западных корпораций, технологии принадлежат им, мы лишь потребляем. Да и в Украине использование ботоферм ограничено лишь политическими делами, черным пиаром, заказухой».

Тем временем команда исследователей из Оксфордского университета (University of Oxford) во главе с профессором Ф. Говардом пришла к выводу, что каждый седьмой пользователь в сети Интернет – это бот.  Помимо сказанного, Филипп Говард уверен, что тамошние политики используют ботов, чтобы «мучить» своих оппонентов, запутывать политические разговоры и направлять дебаты, вводя участников в заблуждение. Профессор в своих работах даже призывал политиков вообще отказаться от ботов. 

В одном из интервью Говард рассказывал, что в 2014 году на выборах в Канаде пятая часть подписчиков в Twitter ведущих политических деятелей страны была ботами. Правительства  различных стран со времен появления ботов активно ими пользуются, например, правительства Бахрейна, Сирии и Ирана использовали ботов в рамках своих стратегий борьбы с повстанцами. Правительство Китая использует ботов для формирования общественного мнения по всему миру.

Еще один важный пример: до блокировки уже экс-президента США Дональда Трампа в Twitter был проведен аудит его аккаунта и выявлено, что из 7 миллионов подписчиков каждый четвертый  был поддельным, то есть ботом. 

Боты в политике

С каждый годом боты становятся все более популярными. Социальные сети становятся все более важным источником политических новостей и распространения любой информации. И сейчас вопрос стоит не в том, используют ли правительства ботов друг против друга, а в том, когда они их используют против нас. Боты – это своего рода ядерный вариант для политического разговора. Они могут влиять на общественное мнение, но, безусловно, вредны для общественной сферы. Боты – это очень серьезная угроза.

Руководитель департамента информационной безопасности швейцарской компании «FCS.systems» Андрей Францев считает, что «ботоферма» – это и ни хорошо, и ни плохо, это инструмент, который может быть использован по-разному. «У нас ботофермы всегда позиционируются только в негативном ключе. При этом все то, что используется в негативе, можно обернуть и во благо, например, сформировать нужное общественное мнение. Во благо – это и защита от таких же ботоферм, которые атакуют бизнес. Это самый очевидный вариант. Ботофермы можно использовать и для различных маркетинговых задач. Но во благо ли это, если посмотреть на это со стороны обычного пользователя? Считается, что есть два состояния: войны и мира. Так вот ботофермы – это инструмент информационной войны. А про инструмент трудно сказать, плохо это или хорошо, все зависит от того, у кого он в руках», — уверен эксперт.

В Соединенных Штатах политическая кампания — это агрессивная игра с большими деньгами, когда даже кандидаты, участвующие в гонке за меньшим количеством голосов, могут подумать, что манипулирование общественным мнением с помощью социальных сетей является рентабельной стратегией кампании. И для этого боты идеальный инструмент. 

В момент политических выборов правозащитные группы используют ботов для привлечения избирателей и распространения нужной информации. В этот период были отслежены боты, распространяющие ложь, а также боты, нападающие на людей и «отравляющие» разговоры. Необходимо понимать, что боты загрязняют эфир, «подливают масло в огонь»; люди в своих корыстных целях используют ботов как дополнительный рычаг по управлению и изменению общественного мнения.

Исследователи из Вашингтонского и Оксфордского университетов отслеживают активность «политических» ботов по всему миру не один год. И все, что они видят, их тревожит. В таких ярких и животрепещущих темах в Америке, как Black Lives Matter или Gangs Control (контроль распространения и применения оружия), в проблеме вакцинации (делать ли прививки маленьким детям или нет) – массово использовались боты. Исследователи уверены, что это только начало. Каким образом и в каких объемах будут использоваться боты в будущем – они не знают. Эти вещи сейчас неуправляемы.

Взаимными лайками и перепостами они искусственно выводят в тренды заказные темы или хэштеги. Например, в 2015-2016 годах в Германии с их помощью активно раскручивались посты и хэштеги против беженцев. И хотя в соцсетях хватало и страниц в поддержку их приезда, без аналогичной помощи ботов они выглядели куда менее популярными. В итоге могло сложиться ложное впечатление, что большинство немцев – против. Треть твитов о социальной позиции касаемо выхода Великобритании из EС тоже были «напечатаны» ботами. Таким образом боты могут влиять на общественное мнение: они смещают акценты, раскручивают фейковые новости, дискредитируют определенные точки зрения, атакуют в интернете конкретных людей.

Как вычислить бота?

Добавляя в друзья незнакомых вам друзей, вы не только рискуете нарваться на мошенников, но также с большой вероятностью становитесь другом бота. Следует обратить внимание на фотографии аккаунта, если на них нет лица хозяина – это почти наверняка бот. Хотя, следует отметить, что технологии позволяют прямо в сети создавать фото для аккаунта с якобы существующим человеком. 

На что стоит обратить внимание далее – это на его публикации. Как пример, сообщения могут публиковаться раз в полгода, зато сразу десятками или сотнями. В общем, вычисление бота – это не такая уж и сложная задача. Просто к данному вопросу придётся подходить в каждом случае индивидуально. Но ведь ботов сотни и тысячи!

Андрей Францев считает, что сейчас народ научился отличать фейковый аккаунт от реального. «Но в будущем эта технология перейдет в то направление, что отличить бота от не бота будет уже невозможно и они будут проходить все проверки», — предполагает эксперт.

Прогнозы

В одной из своих работ специалист по компьютерной безопасности Брюс Шнайер отмечает, что с годами алгоритмические боты эволюционировали, и у них появились «личности». У многих из них поддельные имена, поддельные биографии, поддельные фотографии, иногда генерируемые искусственным интеллектом. То есть даже грамотно составленные страницы все равно являются страницами ботов. Бот может «жить» 5 лет, и тебе кажется, что это живой человек, и он будет продолжать делать свое дело. И уже не нужно сидеть и печатать сообщения, а есть программы искусственного интеллекта, которые сами это все поддерживают, генерируют сообщения и посты. 

Совсем скоро персоны, созданные на основе искусственного интеллекта, смогут писать персонализированные письма в СМИ, выражать свои мнения относительно выбора должностных лиц, отправлять индивидуальные комментарии в публичные споры и разумно рассуждать на политические вопросы в социальных сетях. 

«С ростом развития искусственного интеллекта, людям не придется самостоятельно придумывать подделывать ботов. Уже есть программы, которые умеют качественно писать тексты, вероятно, вскоре появятся программы, которые позволят создавать всю эту «массу». Соответственно и комментировать, отвечать; и вы ни за что не сможете отличить — кто есть кто», — уверен Шнайер.

Эксперт считает, что наше будущее будет состоять из шумных политических дебатов, в основном ботов, воюющих против ботов. А мы на это будем смотреть. Грубо говоря, в сети победят тебя именно боты. То есть это уже пространство не человеческого управления, а место управления этих созданных вещей. И решения этого вопроса пока что не существует. Но есть ученые, которые открыто говорят, что очень скоро «пластмассовый» мир победит. Боты будут продолжать драться с ботами, а мы будем просто наблюдать со стороны, потому что ничего в этом пространстве сделать не сможем: нет технологий, сил, понимания, как с этим вообще бороться.

Заключение

Ботофермы — это явление, которое изучается учеными по всему миру. Специальный отдел кибербезопасности в Facebook активно противодействует ботофермам. В Украине борьба с подобным информационным воздействием происходит на уровне СБУ. При этом ботофермы активно используются различными украинскими группировками власти, и каждый политик мечтает иметь собственную ботоферму в личном распоряжении.

Технологии постоянно развиваются, и уже ботофермы нового поколения активно применяются для решения различных задач. Не позаботившись об обеспечении безопасности заранее, вы подвергаете себя и свой бизнес опасности. Если же вы задаете себе эти вопросы — решение есть. Имея в своем распоряжении экспертов в данной сфере, вы можете быть уверены в слаженной и бесперебойной работе вашей компании.