Американцы завысили количество токсичных юзеров в соцсетях

Ученые выяснили, что мы склонны сильно преувеличивать число пользователей, которые пишут токсичные комментарии или распространяют фейки в интернете. При этом такое восприятие может сказываться на том, насколько мы циничны по отношению к согражданам и как оцениваем степень морального упадка общества. Исследование опубликовано в PNAS Nexus.

Большая часть токсичного и вредного контента создается небольшой, но активной частью пользователей, которые публикуют много сообщений. Например, менее одного процента сообществ на Reddit провоцировали 74 процента конфликтов на платформе, а 60 процентов ненавистнических и оскорбительных высказываний в Twitter писали участники одного небольшого сообщества правых взглядов. При этом люди могут переоценивать количество юзеров, которые создают ненавистнический и вредный контент по аналогии с тем, как они переоценивают распространенность небольших демографических групп. И такое восприятие может сильно влиять на поведение: если люди видят, что члены сообщества позволяют себе неподобающие комментарии, они или менее склонны участвовать в дискуссиях, или начинают вести себя грубее.

Анджела Ли (Angela Y. Lee) вместе с коллегами из Стэнфордского университета изучила, как люди оценивают количество пользователей, которые пишут и распространяют вредный контент, а также то, как это восприятие влияет на чувства, отношение к согражданам и убеждения о нравственном состоянии общества. Предыдущие исследования показали: люди склонны думать, что общество находится в моральном упадке, однако это в данном случае иллюзорные представления.  

Ученые опросили и провели три исследования, используя результаты ранее опубликованных работ о токсичных комментариях на Reddit и распространении фейковых новостей пользователями Facebook*. В они оценивали воспринимаемую участниками распространенность пользователей Reddit, которые хотя бы раз публиковали ненавистнический, агрессивный или неуважительный контент. Респондентам кратко рассказали о методологии исследования и о том, что оценка токсичности проводилась с помощью Perspective API от Google, где контент считался токсичным, если система полагала, что девять из десяти пользователей сочтут его таковым. После этого их попросили оценить, сколько пользователей платформы, по их мнению, публиковали подобные комментарии. Опрошенные значительно переоценили количество таких юзеров и предположили, что 38,3 процента пользователей Reddit пишут токсичные комментарии и публикуют 38,1 процента всего контента на платформе. А по данным метаанализа по всем трем опросам эти показатели составили 42,7 процента и 40 процентов соответственно. При этом по результатам предыдущего исследования, основанного на данных площадки, всего были ответственны за 33 процента контента на Reddit. 

После этого пользователям дали информацию (без результатов) об исследовании распространения фейковых новостей среди пользователей Facebook и попросили оценить, сколько юзеров площадки делились фейковыми новостями. И вновь респонденты переоценили реальное число таких пользователей. Они предположили, что 46,8 процента пользователей Facebook делились фейковыми новостями, а 36,5 процента делились десятью и более ссылками на подобный контент. При этом в реальности эти показатели составляли и менее соответственно. 

Во ученые проверяли, как люди определяют токсичные комментарии. Они предоставили участникам 20 комментариев из вышеупомянутого исследования по Reddit и попросили оценить, какие из них в статье были классифицированы как токсичные. Участники были точны в своих оценках токсичности комментариев, но все же продолжали переоценивать долю токсичных аккаунтов, которые могли написать хотя бы одно из таких сообщений, полагая, что это сделали 45 процентов пользователей. 

Такие представления о поведении других в интернете повлияли на мнение о моральном облике сограждан и провоцировали циничное отношению к ним. В ученые поделили участников случайным образом на две группы: в первой участникам рассказали об исследовании токсичности юзеров Reddit, а затем дали ознакомиться с фактическими результатами этого и еще двух связанных исследований (раз и два). Контрольной группе дали прочитать текст об истории площадки и ее устройстве. Первая группа пришла к выводу, что их соотечественники подвержены меньшему моральному разложению, чем .  Кроме того, оказалось, что участники первой группы , что другие пользователи часто не желают видеть токсичный онлайн-контент.

Таким образом, в трех исследованиях люди в 13 раз переоценили количество пользователей, публикующих токсичный контент, причем переоценка наблюдалась в отношении не только негативных комментариев, но и фейковых новостей, и не была связана с неправильным определением токсичности, как показало второе исследование. Люди ошибочно воспринимают крайне активное меньшинство как активное большинство, заключили ученые. Это в свою очередь может вести к тому, что они более пессимистично оценивают моральное состояние своих сограждан и имеют искаженные представления о том, какой контент хотят видеть другие в соцсетях.

Кстати, не так давно ученые из Гарвардской медицинской школы выяснили, что частое пользование соцсетями ведет к значительному уровню раздражительности у взрослых. 

*Facebook принадлежит компании Meta, деятельность которой запрещена в России