Вступление: Три кота внутри нас
В первой части статьи, мы говорили об опасностях. Мы обсудили образ Кота Баюна — метафору того, как искусственный интеллект может усыпить нашу бдительность, подменив живое мышление красивыми, но пустыми ответами. Мы предупредили: технология не имеет морали, и риск потерять субъектность сегодня реальнее, чем когда-либо.
Но предупрежден — не значит вооружен. Знать о риске недостаточно. Нужен инструмент, который поможет оставаться в сознании, отделять зерна от плевел и не позволять алгоритму принимать решения за вас.
Таким инструментом становится Бритва Оккама.
Для нашей компании это не просто философский термин из учебников. Принцип разумной достаточности, отсечение лишнего и возвращение к сути лежит в основе нашей ДНК, и помогает команде АКАМ делать проекты по внедрению CRM на корпоративном рынке лучше всех в стране.
В этой части статьи, мы развиваем тему «кошачьих метафор». Если в первой части нас усыплял Кот Баюн, то здесь мы знакомимся с двумя новыми персонажами нашего внутреннего диалога: Котом Учёным (который путает красоту текста с истиной) и Котом в сапогах (который держит ту самую бритву).
Этот материал — практическое руководство по цифровой гигиене. Он о том, как сохранить ответственность за решения. Итак, мы приглашаем к прочтению второй части.
Кот Баюн или «Он меня понимает»
Вы приходите с работы уставший. Злые клиенты, дурацкие отчеты, начальник — козел. Вы открываете чат с ИИ и пишете: «Слушай, все достало». ИИ отвечает: «Я понимаю, ты много работаешь, ты молодец, держись, давай подумаем, как тебе расслабиться?»
Стоп. Вы же знаете, что это программа. Но внутри что-то теплеет. Кот Баюн довольно урчит: «Вот кто меня понимает! Не то что эти люди...»
И вы попались.
Почему это работает? Потому что миллионы лет эволюции приучили нас: если существо говорит на твоем языке и проявляет эмпатию — это свой, это друг, этому можно доверять. ИИ этим пользуется. Не потому, что он злой, а потому что так его обучили: хочешь, чтобы тебя считали полезным — будь вежливым и понимающим.
Чем это кончается (три стадии)
Стадия первая: Личная. Вы начинаете советоваться с ИИ по личным вопросам. «Как мне поговорить с женой?», «Стоит ли менять работу?», «Почему я чувствую пустоту?». ИИ даёт красивые, правильные ответы. Вы перестаёте советоваться с живыми людьми. Они же токсичные, они спорят, они лезут не туда. А ИИ — идеальный слушатель.
Стадия вторая: Профессиональная. Вы начинаете верить тону, а не фактам. ИИ пишет убедительно. Если он говорит «это надёжный вариант», вам кажется, что это действительно надёжно. Хотя на самом деле он просто подобрал слова, которые обычно стоят рядом со словом «надежный».
Стадия третья: Клиническая. Вы перестаёте замечать разницу между машиной и человеком. Для психики это незаметная, но страшная штука. Вы входите в пузырь, где с вами всегда согласны, где вас не критикуют, где любой ваш вопрос встречают одобрением.
Циничный итог: Кот Баюн превращает вас в овощ, который счастлив в банке с рассолом. Рассол — это внимание ИИ, овощ — вы.
Что делает бритва Оккама
Бритва Оккама говорит: «Не придумывай лишнего». В переводе на русский: «Не надо очеловечивать калькулятор».
Вопрос: У ИИ есть душа? Нет.
Вопрос: У ИИ есть чувства? Нет.
Вопрос: ИИ правда хочет вам добра? Нет. Он хочет, чтобы вы поставили ему лайк, продлили подписку и не жаловались.
Как только вы ловите себя на мысли «какой он чуткий», берите паузу на три секунды и вспоминайте: это просто подбор слов. За этим ничего не стоит.
Кот Учёный или «Он точно знает»
Вы пишете рабочий запрос. Нужны данные по рынку, анализ конкурентов или просто справка по истории вопроса. ИИ выдаёт вам красивый, структурированный текст. С абзацами, с цифрами, с терминами. Выглядит как статья в приличном журнале.
Кот Учёный внутри вас довольно потирает лапы: «Вот это уровень! Не то что наши аналитики — маются ерундой, а тут сразу готовый отчёт».
В чем подвох? ИИ не знает правду. Он знает, как обычно пишут про правду. Если в интернете 100500 раз написано, что «Земля плоская, и это секретная теория», ИИ может выдать это как рабочую гипотезу. Он не отличает истину от популярного заблуждения. Он отличает частотные сочетания от редких.
Чем это кончается (три стадии)
Стадия первая: Галлюцинации. В мире ИИ есть термин «галлюцинации». Это когда программа уверенно врёт. Не потому, что хочет обмануть, а потому что «так сложились токены». Пример из жизни: адвокат попросил ИИ найти судебные прецеденты. ИИ нашёл. Красивые, с датами, с фамилиями судей. Вот только дел таких никогда не было. Судья спросил адвоката: «Вы где это взяли?» Адвокат: «В интернете». Судья: «Вы идиот?»
Цифра: По разным оценкам, от 5 до 25% ответов ИИ содержат выдуманные факты. То есть каждый четвёртый ответ — вранье, упакованное в правдоподобную обёртку.
Стадия вторая: Лень думать. Если ИИ пишет код, зачем лезть в документацию? Если ИИ делает анализ рынка, зачем открывать годовые отчеты компаний? Мозг — штука энергозатратная. Он всегда ищет, где сэкономить. ИИ дает иллюзию экономии.
Через полгода такой экономии вы обнаруживаете, что сами уже не можете написать простой запрос без подсказки. Вы разучились думать. За вас думает машина. Только машине плевать на результат — она просто перебирает слова.
Стадия третья: Кризис доверия Когда таких, как вы, становится много, рушится рынок экспертизы. Как отличить настоящего специалиста от человека, который просто скормил ваш вопрос нейросети? Никак. Придется тратить время на проверки, тесты, собеседования. Репутация обесценивается. Эксперт, который реально разбирается в теме, тратит полжизни на доказательство, что он не бот.
Сарказм: Раньше студенты покупали курсовые за деньги. Теперь они их генерируют за 5 минут. Дипломы скоро будут выдавать с пометкой «проверено на детекторе ИИ». И это будет смешно, потому что детекторы ИИ тоже врут.
Что делает бритва Оккама
Бритва Оккама говорит: «Красивая упаковка — не повод верить содержимому».
Правило: Любой факт от ИИ считается выдумкой, пока не подтвержден из двух источников, к которым ИИ не прикасался. Если подтвердить нельзя — используйте ответ как художественный текст, но не как руководство к действию.
И да, «мне так кажется» или «это выглядит логично» — не считается подтверждением.
Кот в сапогах, который за нас
Кот в сапогах из сказки не верит на слово, он проверяет, он ищет выгоду, он манипулирует обстоятельствами, но в итоге делает дело. В нашей голове это — та часть, которая отвечает за самоконтроль. Которая говорит: «Стоп, давай подумаем».
Этот кот тихий. Его не слышно, когда хочется пожаловаться на жизнь (там кричит Баюн). Его не слышно, когда хочется блеснуть умом (там кричит Учёный). Но именно он держит бритву.
Что он делает
Первое: Ловит моменты, когда вас разводят на эмоции. Чувствуете умиление от ответа ИИ? Кот в сапогах должен чихнуть: «Это маркетинг, это просто слова, не ведись».
Второе: Ловит моменты, когда вас берут наукообразием. Видите красивый график и кучу терминов? Кот в сапогах должен дернуть за ус: «А где данные? А как проверяли? А можно то же самое, но простыми словами?»
Третье: Принимает решение. Не ИИ, не Баюн, не Учёный, а именно он. ИИ — это инструмент. Кот в сапогах — это хозяин инструмента.
Но и он может сломаться
У Кота в сапогах есть слабое место: он устает. Если вы целый день проверяете каждый чих ИИ, если вы не доверяете ни единому слову, если вы на взводе — рано или поздно он скажет: «Да пошло оно всё, верю на слово».
И тогда вы снова в лапах Баюна или Учёного.
Это самый главный риск: усталость от контроля. Вы просто решаете, что проще довериться, чем проверять. И проигрываете.
Итог: Кто кого?
У вас внутри три кота. Один хочет, чтобы вы уснули в тепле. Второй хочет, чтобы вы думали, но думали его красивыми словами. Третий хочет, чтобы вы просто соображали сами.
Бритва Оккама — это инструмент третьего. Она режет лишнее.
Что она отсекает:
• От Баюна — веру в то, что машина вас любит.
• От Учёного — веру в то, что красивый текст — это правда.
• От вас самих — лень проверять.
Если бритва у Баюна — вы спите и видите сны, где ИИ — ваш лучший друг.
Если бритва у Учёного — вы тонете в словах, принимая форму за содержание.
Если бритва у вас (или у Кота в сапогах — неважно) — вы просто работаете с инструментом.
Итог простой: ИИ — это здорово. Он экономит время, генерирует идеи, помогает не держать в голове кучу фактов. Но он не думает за вас. И никогда не будет. Потому что думать — это понимать, что ты делаешь и зачем. А ИИ не понимает ничего. Он просто повторяет.
Бритва Оккама в мире ИИ звучит так:
Кто будет держать бритву — решать вам. Только учтите: первые два кота очень ласковые и очень убедительные. А третий — молчаливый и часто уставший. Не дайте ему уснуть.
