Mail.Ru Group объявила о внедрении в ICQ нового алгоритма борьбы со спамом, в основе которого лежат нейронные сети: он позволяет отфильтровать нежелательные изображения, которые нарушают правила сервиса.
Система уже тестируется в лайвчатах ICQ: она блокирует порнографический контент и спам, сообщили в Mail.Ru Group.
Самообучающаяся система автоматически распознает изображение и текст на фотографиях и картинках, выявит контент, не соответствующий правилам, и заблокирует его. Таким образом, пользователи ICQ защищены не только от текстовых спам-сообщений, но и от непрошенных картинок с назойливой рекламой, подчеркнули в компании.
Для обучения нейросети разработчики использовали базу из 5 млн изображений, а результаты работы системы проверялись вручную.
Такая схема позволила добиться высокой точности и минимизировать вероятность ложного срабатывания. Новая система разработана совместно с командой «Поиска Mail.Ru».
