Узнайте свое число ангела
Дизайн Лорен Парк
«Это будет изображение члена?» - это вопрос, который многие люди, особенно женщины, задают с чувством страха всякий раз, когда видят DM от незнакомца. Что ж, наконец-то появилось приложение от этого беспокойства, по крайней мере, для ваших личных сообщений в Twitter.
Вдохновение для SafeDM , фильтр блокировки контента, который в настоящее время находится в разработке и возник, когда Келси Бресслер столкнулась с нежелательными домогательствами сексуального характера в цифровом формате.
«[Это был] случайный человек, который хотел привлечь мое внимание», - говорит Бресслер. «Они спросили, почему ты никогда не разговариваешь со мной, а потом прислали мне… это. Думаю, я знаю, почему не разговариваю с этим человеком ».
Опыт Бресслер с порно-местью также побудил ее сопротивляться этому преследованию. Вместе с командой из трех человек она работает над ИИ-фильтром контента, обучая его распознавать картинки с членами, сообщать о них пользователю, а также удалять их из почтового ящика.
Исследования показывают, что 53 процента женщин от 18 до 29 лет и примерно 78 процентов женщин-миллениалов отправляются незапрашиваемые откровенные изображения, многие из которых являются изображениями членов семьи.
«Если женщина не сталкивалась с киберспышками, она знает кого-то, кто испытал это. Это настолько распространено, что у нас действительно не было другого решения, кроме как сказать женщинам, чтобы они просто закрыли свои личные сообщения, что, на мой взгляд, не является правильным ответом », - говорит Бресслер. «Это то, что действительно волнует большинство женщин».
Как ИИ узнает, как выглядят картинки с членами?
Что ж, спасибо Вирусный твит Бресслера в сентябре , многие запрашиваемые фотографии отправляются в аккаунт ShowYoDiq . (Некоторые фотографии, к сожалению, также ошибочно, а не ошибочно, отправлены в личный аккаунт Бресслера в Твиттере.) Дикс покрыт блестками. Члены в носках. Пенисы в клетках - все эти фотографии были протестированы, чтобы помочь ИИ распознать, что делает изображение члена.
Твитнуть
Если это пенис, SafeDM автоматически удалит изображение и ответит отправителю, заявив, что отправленное сообщение было неприемлемым, и сообщит пользователю о своем количестве ударов.
«Мы не ругаем их в сообщении. Мы говорим, что это был неприемлемый контент. Мы работаем над всем словоблудием, а также над подсчетом ударов, [который после] определенного количества ударов автоматически блокируется от возможности снова связаться с вами »
Некоторые потенциальные пользователи заявили, что они хотели бы вручную блокировать нарушителей, а не использовать SafeDM автоматически. Бресслер и ее команда прислушиваются к отзывам тех, кто интересуется фильтром.
«Это то, чего хотят пользователи. Мы стараемся сделать вещи максимально гибкими, чтобы люди могли изменять эти настройки », - говорит Бресслер. После выпуска фильтр и его настройки будут полностью функциональными, но команда готова принять запрошенные пользователем параметры после даты выпуска для своих конечных пользователей, сохранив при этом свои основные функции.
Этот фильтр содержимого (ориентировочно) будет выпущен 14 февраля.
Благодаря большому количеству данных, предоставленных нетерпеливыми людьми, было довольно много того, что нужно было протестировать, чтобы помочь фильтру содержимого определить, что такое пенис, а что, в общем, не является просто фаллически выглядящим продуктом. Это также помогло команде довольно быстро разработать фильтр, включая определение того, должен ли фильтр улавливать ложные срабатывания.
«Мы точны более чем на 99 процентов, хотя у нас бывают ложные срабатывания», - говорит Бресслер. «Мы должны подойти к моменту, когда мы должны решить, хотят ли люди видеть пенис как предметы, это тоже домогательство? Даже если [изображение] не пенис, должен ли фильтр все равно его отфильтровывать? Это действительно возвращается к тому, чего хочет пользователь ».
Твиттер-тестирование SafeDm показало огромный прогресс и точность с тех пор, как оно было объявлено в сентябре, и все меньше и меньше проходит через его фильтр контента AI. И люди, естественно, взволнованы предстоящим релизом. В неожиданном повороте Бресслер упомянула, что некоторые из ее любимых людей, которые получают сообщения о фильтре, - от пап, особенно от пап с дочерьми.
«Они счастливы, что я делаю это, но грустят, что это необходимо для начала. [У меня была пара] пап, [которые] рады, что я работаю над этим, потому что у них есть дочери, и они не хотят, чтобы им приходилось сталкиваться с этим ».
Любой, у кого есть учетная запись Twitter, сможет использовать фильтр блокировки контента.
«Вам не нужна конкретная модель телефона», - объясняет Бресслер. «Любая учетная запись Twitter может использовать это. Это работает одинаково и в приложении, и в Интернете ».
Конечная цель проекта - вернуть контроль сообществу, чтобы им не приходилось жить в страхе перед тем, что находится в их почтовых ящиках Twitter.
как сделать бразильский воск в домашних условиях
«Забавно, как ты можешь извлечь что-то из неприятной ситуации, немного контролировать ситуацию и сделать мир лучше».
