Благодаря новому сервису Perspective, Google предлагает способ, в котором, в частности, новостные сайты могут дифференцировать комментарии читателей по их «токсичности». Таким образом, появляется новая форма цензуры и контроля мышления от «улучшителя мира» Google и его партнеров Wikipedia, The New York Times, The Economist и The Guardian.

«Токсичными» Гуглом воспринимаются такие комментарии, которые должны в теории мешать обсуждениям и быть оскорбительными для других пользователей. Программа с помощью искусственного интеллекта определяет степень токсичности того или иного комментария. Новые комментарии сравниваются с шаблонами в базе данных, и, таким образом, определяется степень их токсичности по шкале от 0 до 100. Пример можно увидеть в следующем видео:

Чем выше значение, тем более «токсичным» является комментарий.

«Программное обеспечение постоянно учится», — говорит Джаред Коэн, руководитель компании-разработчика Jigsaw.

На странице «Perspektive» каждый может протестировать новую услугу, которая в настоящее время предлагается только на английском языке. Jouwatch сделал это, и результат следующий:

Это программное обеспечение представляет собой попытку направить свободу слова в нужном политическом русле. Таким образом, это опасный инструмент в руках идеологов власти, чтобы лишить возможности высказать свое мнение недовольным. Google первоначально разработала данную программу для того, чтобы гарантировать свободу слова, так как многие интернет-газеты выключили функцию комментариев на основе так называемых замечаний ненависти. На деле же, получилось все совсем наоборот.

Вот пример:

Однако, если ввести Obama is a bad president, уровень токсичности будет в районе 90%. Запрос Merkel is a bad chancellor показывает 94% токсичности. Merkel is a traitor — выдает 97% токсичности. Таким образом, данная программа будет полностью контролировать комментарии, оставляемые пользователями интернета, полностью ставя крест на свободе слова.