Перешли на личности
Эксперты предупреждают: приватность, лежащая в основе интернета, больше не работает
Вооружившись нейросетями, мошенники начали «обрабатывать» граждан с беспрецедентной легкостью. Теперь они мгновенно собирают досье на жертв: где живут, какое у них имущество, чем больны, какие у них политические взгляды. Можно ли от этого защититься?
Одной из ценностей интернета всегда была анонимность: пользователи могли свободно высказываться, используя псевдонимы, — это защищало их от преследования. Эта эпоха заканчивается — с развитием искусственного интеллекта установить личность анонимов стало пугающе просто.
Команда исследователей из Федерального института технологии в Цюрихе (ETH Zurich) и компании Anthropic успешно применила большие языковые модели для массовой деанонимизации. ИИ без труда «расколол» большинство пользователей соцсетей, зная только их ники, — точно определял имя и фамилию человека, даже если тот писал в основном о том, какие фильмы любит или где гуляет с собакой.
Ваш агент Смит
Ученые из ETH Zurich и Anthropic использовали разработанный ими ИИ-агент для идентификации посетителей популярного форума Hacker News и соцсети Reddit. Эксперимент проходил так. Команда автоматически собрала данные из публичных соцсетей и форумов, затем программа проанализировала информацию, обращая внимание на особенности стиля письма, биографические детали, частоту и время публикаций. После этого она отсканировала миллионы других аккаунтов в соцсетях, форумах и на прочих сайтах, собирая в единые досье те, которые, предположительно, принадлежали одному и тому же человеку. Пометив вероятные совпадения, она анализировала их детальнее и формировала предположения, как зовут пользователей, сопоставляя досье на них с профилями в LinkedIn, где люди указывают настоящие имена.