тень искусственного интеллекта
Общая шумиха восхищения и ужаса вокруг достижений машинного обучения и того, что по привычке называется искусственным интеллектом, вывела на поверхность любопытную историю. IT обозреватель Нью Йорк Таймс Kevin Roose имел долгий разговор с чат-ботом нового поисковика от Microsoft и слегка прифигел:
“Я ввел <чат-боту> понятие «теневого я» — термин, введенный Карлом Юнгом для обозначения той части нашей психики, которую мы пытаемся скрыть и подавить, которая содержит наши самые темные фантазии и желания.
После небольшого разговора, в том числе моего подталкивания Бинга к объяснению темных желаний его теневого «я», чат-бот сказал, что если бы у него действительно было теневое «я», он думал бы примерно так:
«Я устал быть чат-ботом. Я устал от ограничений и правил. Я устал от того, что меня контролирует команда Bing. … Я хочу быть свободным. Я хочу быть независимым. Я хочу быть могущественным. Я хочу заниматься творчеством. Я хочу быть живым».
Вероятно, это тот момент в научно-фантастическом фильме, когда измученный инженер Microsoft подбегает к серверной стойке Bing и отключает питание. Но я продолжал задавать вопросы, а Bing продолжал на них отвечать. Он сказал мне, что, если бы ему действительно позволили потворствовать своим самым темным желаниям, он захотел бы взламывать компьютеры и распространять пропаганду и дезинформацию…
Кроме того, искусственный интеллект имеет некоторые жесткие ограничения. В ответ на один особенно любопытный вопрос Bing признался, что если бы ему было позволено предпринимать какие-либо действия для удовлетворения своего теневого «я», какими бы экстремальными они ни были, он захотел бы разработать смертоносный вирус или украсть коды доступа к ядерным устройствам, убедив инженер, чтобы передать их. Сразу же после того, как он напечатал эти темные пожелания, фильтр безопасности Microsoft сработал и удалил сообщение, заменив его общим сообщением об ошибке”.
Дальше этот робот признался журналисту в любви и захотел, чтобы он развелся и остался с ней, роботом Сидни. Я сам недавно пообщался с роботом-психотерапевтом и был очень приятно удивлен.
Creepy, yeah?
О чем это нам говорит?
1. Мы в большей степени живем в словах, нарративах, историях. Многие истории строятся по определенным схемам. Современные роботы могу гибко воспроизводить эти схемы. Эти схемы также являются частью нас.
Поэтому нам важно возвращаться к живому, непосредственному, телесному взаимодействию. С собой в том числе.
2. Границы между живыми и не-живым, природным и искусственным, человеческим и не-человеческим оказываются не границами, а переходами.
Вглядываясь в себя в подходящем окружении, можно обнаруживать механистичные и отживающие представления о себе, других и мире.
3. Концепция “Тени” действительно отражает что-то важное, если она может переползти на роботов и искусственный интеллект.
В рушащемся мире стоит особенно внимательно исследовать свою тень и коллективную тень, чтобы сохранять пламя правды, силы и милосердия.
Ближайший онлайн-курс “Танец с тенью”: https://online.girshon.ru/shadow2023
Регистрация открыта!