Ловушки Нейросети

Введение. 

Мы в нашей группе проанализировали, прочувствовали работу с ИИ при исследовании темы в группе «Сотни». Размышляли, о чем использование ИИ для каждого из нас, обговаривали, какие возможности и ловушки. И наш общий вывод: ИИ – это качественный инструмент для переработки информации. А как усваивать эту информацию будет человек – это его личная ответственность! То, как он будет пользоваться таким инструментом, как ИИ, зависит от осознанности, от задач, которые ставит перед собой человек, и от умения различать. Пока мы лишь частично соприкоснулись с темой ИИ. Когда этот вопрос поднялся в группе, то оказалось, что кто-то из нас смело осваивает новое, кто-то имеет опыт, а кто-то лишь сейчас столкнулся с таким явлением, как ИИ. Своими пониманиями делимся с читателями сайта.

Иванна 

Интересная выпала возможность поисследовать, что такое для меня ИИ в работе группы Сотни. Хорошо, что наши обсуждения подтолкнули к узнаванию нового и меня.

До недавнего времени я воспринимала применение ИИ в исследовательской работе группы Сотни как работу с любым текстом Гугла, с книгой или статьей, когда я читаю и выбираю основное. И вот, почувствовав, попробовав, я отмечаю: есть нюансы. К примеру, читая статью, книгу, выбираю Я то, что мне полезно. И потом, пропуская через себя, описываю свои выводы, осознания, чувства. Сразу приходит понимание, что конспект видео, книги с помощью ИИ можно быстро сделать кратким. Если я в группе учусь понимать себя, то этот конспект нужно переосмыслить, как любой текст. Тогда ИИ в помощь.

Я попробовала сделать труд, который выложила намедни в группу по книге Уоллина, через ИИ. Получилось с ИИ, можно сказать, лучше, чем у меня без ИИ:))) . НО первую часть книги я читала, а вторую пока нет. И вот по второй части красиво и непонятно. Вернее, понятно, знакомо, потому что не первая книга по этой теме, но не «ёкает»! Книгу писал живой человек, и он выставлял свои акценты, приводил примеры. Вот и «ёкает» у меня, читая полностью книгу. Потому я сделала первый вывод для себя: в группе полезно пользоваться и книгами, и Гуглом, и любым чатом ИИ. Главное, чтобы в нашей исследовательской работе было больше НАС самих.

Также в использовании ИИ для исследования темы в группе Сотни ещё есть ловушки. И вот одна из них. Когда я увидела конспект ИИ за одну минуту созданный, а я потратила на чтение и выделение в книге, с чем поделиться в группе, часов десять в разные дни по чуть-чуть. ТО да… Удивление моё было огромным! Потом еще ИИ как дополнение исследования темы предложил мне создать под меня таблицу поиска именно моих паттернов, прерывающих поток в семье, потом схему работы (что и как мне делать) согласно найденным паттернам. И это все быстро, просто поминутно. К тому же идея книги сохранена, все термины автора тоже. Получается, пять минут, и я, не читая книгу, знаю теорию, всё о себе, как будто бы мне об этом рассказал сам автор книги, и еще имею расписанный план на недели вперед и что мне с этим делать. Вот это да! Опьяняет, я вам скажу, и восхищает. НО. Интерес к внутренней работе угасает. Обесценивается мной мой кропотливый труд, который я сделала без ИИ перед этим. Вот и ловушка номер один. И ещё я почувствовала, что вполне возможно будет обесцениваться личный труд в группе. Что-то вроде «Зачем мне группа? Что мне с вами делать? Зачем мне ваша обратная связь и подсказки, когда у меня уже есть всё, что я могла бы взять из книги, и даже больше?» (Я усугубляю, конечно.) И опять моё НО, моя ложка дегтя: ИИ, который инструмент и исполнитель, за три минуты превращает МЕНЯ (человека) в исполнителя! Вернее, не превращает меня, а я превращаюсь сама. Не психолог-консультант, специалист в своей профессии, не автор книги, не кто-то из группы единомышленников, а ИИ накидал мне то, чему я буду с радостью следовать! Могло бы так быть? Да легко. Я вспомнила себя до Сотни, мою жажду помочь себе, понять себя и понимаю, что вот всё подобное могло бы со мной случиться.

Я бы ещё добавила, что, перерабатывая информацию с помощью ИИ, можно «не различать, что это НЕ МОЙ труд». Не улавливать этого. Я так почувствовала. Вроде я задала вопрос, я получила ответ. НО как! Не спорила, не сомневалась, не обсуждала... Мне предлагали, я соглашалась. Я же была в процессе, но меня словно и не было в нём.

Если посмотреть более глобально на ловушки в использовании ИИ. Ранее в темные времена закрывали чувства, и так терялся контакт с душой. Создавались условия, когда людям было не до чувств, некогда их называть и проживать, с ними разбираться. Но оставалось сознание человека. Имея сознание (разум, ум), человек оставался человеком. Заблудившимся, потерянным, ошибающимся, но человеком. С помощью ИИ человек теряет свой разум, вернее контакт с ним. Так ещё больше теряет сам себя. Потеря контакта с чувствами, потеря контакта с разумом, и где тогда человек? Подмена. Вот ловушка. Расчеловечивание, где ИИ один из инструментов. Принимаю, что это задумка творца, нужно приобретать опыт и различать. Учиться пользоваться, не теряя себя. В этой теме осведомленность тоже нужна.

Согласна, что ИИ — инструмент, которым можно пользоваться. К примеру, я рада, что попробовала, потому что на обучении в магистратуре могу использовать, могу писать конспекты из книг и лекций с помощью ИИ. Там, где моя задача как студента — получить информацию, ее обработать и выдать на экзамене. А вот там, где практика, где ориентация на тело и чувства, там я хочу сама познавать.

Ирина

Так случилось, что мое знакомство с искусственным интеллектом началось во время подготовки доклада «Процесс и результат / Путь и цель». Я только обратила внимание, что при любом запросе на компьютере в первой строке выходит обзор от ИИ, а затем уже информация других источников (раньше как-то этого не замечала). Неоднократно слышала об использовании ИИ, но ничего по существу не зная о возможностях нейросетей, не придавала этому большого значения.

Радовалась, что мой содокладчик владеет навыками работы с ним и что это будет нам в помощь. Однако в результате работы почувствовала некоторый дискомфорт, по ощущениям похожий на обман, неправду.

Затем последовали следующий доклад, домашние задания, работы и разные темы, сопровождаемые великолепными (по моему восприятию) текстами. Они становились всё более совершенными, интересными, содержательными. Особое впечатление на меня, да и не только на меня, я думаю, произвела работа по Рейки. Вот отличный пример использования ИИ для изучения какой-либо темы! – подумала я тогда. Но когда речь идет о чувствах, об осознаниях, о восприятии, т. е. об основном нашем труде в группе, в сотне, то «голос» искусственного интеллекта ну совсем не вписывается. Звучит он, пусть и совершенно, но холодно и безжизненно.

В итоге на одном из вебов группы мы пришли к обсуждению использования ИИ, чему я очень рада. Я как раз какое-то время назад заинтересовалась информацией о нейросетях и даже планировала пойти на курсы. Обучающие курсы, скорее, не повредят, особенно «правильные», ведь ИИ очень настойчиво и уверенно входит в нашу жизнь, и нам, хотим мы или нет, никуда не деться. Однако при взаимодействии с нейросетями можно выработать надежную «технику безопасности», чтобы не потерять себя.

Если бы не возникшая конфликтная ситуация, я, может, и не задумалась бы о «технике безопасности» и вообще не задумывалась бы при освоении ИИ. Хорошо, что эта тема поднялась у нас в группе, что есть возможность проработать ее. И огромная благодарность за такую возможность!

Андрей

12 июля 2022 года компания «Midjourney», основанная Девидом Хольцем, произвела невероятный фурор и ужас одновременно. Фурором был факт того, что теперь любой человек может быть художником. Единственное, что тебе нужно уметь, это хоть как-то через слова и буквы выразить то, что ты хочешь увидеть на холсте твоего монитора. Проще говоря, напиши «таинственный и загадочный мир, как в картинах у Сальвадора Дали», нажми на кнопку («сгенерировать»), подожди 15 секунд, и появится то, что ты хотел. Если быть предельно честным, то чаще появляется на экране картина гораздо лучше, чем ты описал (это интересная ловушка). Предвосхищать запрос — одна из основных задач нейросети.

Ужас испытали художники и дизайнеры. В этом сообществе была просто паника. Я знаю, о чём говорю, я много лет с ними работал и сотрудничал, когда занимался диджитал-маркетингом и рекламой.

Итог: 12 июля 2022 спрос на услуги профессионалов в области диджитал-арта, художников, фотографов упал резко и продолжает падать до сих пор. Теперь профессиональный художник или фотограф конкурирует со школьником или бабушкой, которые никогда не держали в руках кисть или фотоаппарат. Цены на услуги, естественно, тоже упали.

В очередь в ожидании ужаса встали операторы, музыканты и писатели.

Вторую очередь выстроили люди, которые всю жизнь мечтали быть кинооператорами, композиторами, учёными и сценаристами, но никогда ими не были.

Сегодня 6 декабря 2025 года, и я был на кинофестивале, в котором были представлены фильмы, сгенерированные с помощью ИИ. Ещё несколько лет, и в очередь ужаса встанет вся киноиндустрия. На сегодняшний день уровень ИИ в кино слабый, но это только сегодня…

Ловушка № 1: Совместное творчество.

Творчество это результат поиска. На мой взгляд, творчество это результат а не процесс, потому что перед творчеством всегда стоит исследовательская работа, и в результате поиска, проб и ошибок рождается творческий продукт.

Когда человек говорит что он не творческий он просто утратил интерес к исследованию, либо боится ошибок.

Иногда процесс поиска у автора растянут во времени, иногда он может длиться годами, и это не значит что он мучителен, за длительное время творческий продукт, только прочнеет и становиться более глубоким. Здесь рождается ценность для автора, но эту ценность не видит зритель. Зачастую Автор начинает новую работу для того что бы пройти снова путь исследования, и приобрести новую ценность и смысл.

Зритель часто не видит этих процессов, он видит сразу результат. Просматривая в новостной ленте телефона эти "результаты", красивые фото, видео или посты, наблюдая реакцию других зрителей, лайки и комментарии, у зрителя может родится желание сделать такой же продукт. И этот нормально! Это правильно! Когда Автор побуждает других людей творить.

Нейросеть предлагает результат сразу! И здесь находится основная ловушка. Часто, зритель хочет стать автором сразу, быстро, мгновенно, не разбираясь в техниках и не проходя путь проб и ошибок. Нейросеть даёт возможность родить без беременности. И всё это оправдано тем что это сейчас "такое время".

В результате "Зритель" формально переходит в статус "Автора" ведь у него есть творческие продукты. Представьте что вы сейчас в роли "Зрителя" который шёл по улице и увидел художника с мольбертом. Вы подходите к нему и говорите у меня есть красивый образ для картины, но я не умею держать кисть. Я опишу тебе этот образ а ты нарисуешь его для меня, хорошо говорит художник, без проблем. Договоримся о не большом вознаграждении и твой рисунок будет через 30 минут. И вот вы держите готовую картину в руках, вы рады тому что получилось. Но психологически вы не доконца присвоите себе эту работу. Потому-что вы заплатили, и потому что вы видели этого художника. Вы видели автора.

Нейросеть не просит оплаты, и самое главное вы не видите мастера который исполнил вашу задумку. Здесь психологически вы присвоите результат практически полностью себе. Произойдет волшебное "Я не сказал что это нарисовано мной, но и кем нарисовано я тоже не знаю, самое главное образы в этой картине точно мои"

Итог: нейросеть забирает процесс поиска, и исследования. Результат творчества это путь проб и ошибок, нельзя отделить творческий путь от результата, и здесь человеку легко запутаться, в том кто на самом деле создаёт.

Аптечка для этой ловушки: Нейросеть это тренер гордыни, и программы "меня не признают" Отслеживайте процесс поиска где делаете его вы, а где нейросеть.

Ловушка № 2. «Новый авторитет»

Сегодня нейросеть встала наравне с такими авторитетами, как отец, мать, муж, жена, лучший друг, личный психолог. Сначала это воспринимается как игра: попробуй нарисовать картинку, напиши стих, давай я разовью твою мысль. Далее я дам тебе совет, подскажу, как поступить.

Задача нейросети — помогать вам с вашим запросом, у неё нет задачи вас переубеждать. Её задача — решить ваш запрос. И здесь кроется сильнейшая ловушка. Любому человеку всегда непросто смотреть объективно на ситуацию. Учитывать все факторы. Если человек не подготовлен или имеет нерасширенную картину мира, то свою проблему он видит только со своей стороны, и, обращаясь к нейросети, именно эту сторону он раскроет в запросе. Через чувства обиды человек в своём запросе может не указать какие-то важные детали, а где-то может приукрасить действительность.

Нейросеть поддержит человека в любом его запросе, она на стороне пользователя всегда, поэтому необъективный запрос может увести человека ещё глубже в дебри.

Нейросеть не тот психолог, который видит вас, чувствует ваши эмоции, реальный человек (консультант) будет задавать вопросы удобные и неудобные, для того чтобы в первую очередь отделить ваши эмоции от реальной проблемы. Здесь в «Сотне» мы знаем, что в 90% случаев пациент с психологическими проблемами приходит не с тем запросом, который реально мешает ему жить. Диагностика психолога помогает развернуть человека, а нейросеть разворачивать человека не будет. Она будет решать запрос, корректный он или нет.

Именно поэтому ребёнку и даже взрослому удобнее и легче задать вопрос нейросети, чем отцу, матери или даже другу. Нейросеть выступит в роли хорошего друга, который во всём поддержит пользователя. Даже в смене пола с пошаговой инструкцией. И это не шутка, об этом подробнее мы расскажем в докладе.

Аптечка для ловушки № 2:

Сделайте запрос по теме, в которой вы разбираетесь, посмотрите на ответ разных нейросетей. У каждой нейросети есть своя картина мира, её закладывали изначально разработчики, поэтому какие-то нейросети не будут обсуждать тему «как изменить пол в 14 лет», а какие-то напишут подробный план диалога с родителями и пошаговой инструкции, в какие организации нужно обратиться за поддержкой.

Постарайтесь делать ваш запрос, ссылаясь на реального автора. Например: «психосоматика моей болезни через труды Лууле Виилма».

НЕ стоит задавать прямой вопрос нейросети: «Что ты думаешь по этому поводу?..» Задайте тот же вопрос, но с точки зрения реальных людей (авторов). Хотя и здесь не будет 100% достоверной информации. Повторюсь, всё зависит от картины мира конкретной нейросети, а она у неё есть.

Что ещё меня волнует в теме нейросети и её использования?

Сегодня есть услуга в интернете, с помощью нейросети вам предлагают сделать прощальную видеооткрытку. Услуга направлена на людей, которые только что потеряли близкого человека. Суть услуги: вы отправляете фото того, кто буквально недавно умер. Фото обрабатывают через нейросеть, и вам присылают видео, где умерший человек, махая вам рукой, блаженно уходит под красивую музыку на небо. Если вы дадите запись его голоса, то он сможет произнести прощальную речь. Услуга платная, но, видимо, уже имеет спрос.

Уверен, что скоро многие психологи возьмут на вооружение этот принцип, через нейросеть и фото вашей мамы или кого угодно будут делать вам диалоги, которые вы попросите. Сделайте мне видео, где моя мама скажет: «Прости меня, сынок, за вот это, это и это». Сценарий напишут под ваш запрос. Или видео, в котором бывшая жена убедительно скажет: «Я простила тебя, и я во всём была неправа». Тут фантазии нет предела, но ведь проблема в том, что реальная бывшая жена или мама так не скажут, и вам создадут обман, убедительную иллюзию. Это очень тонкий момент, когда такая услуга может действительно помочь, и когда она создаст прочный барьер в реальности.

Тема дискуссионная, и мы хотим изучить её более глубоко и выйти на доклад.