Книга Менеджер Нагибко, вы робот? Часть 3, страница 50 – Юлия Жукова, Елизавета Шумская

Сегодня Рогозин после работы вдруг ощутил страстное желание что-нибудь вкусное приготовить. Вкусное — это, разумеется, мясо. Поэтому он закупился в магазине свининой, овощами, специями и уже скоро в домашней одежде стоял на кухне, с упоением нарезая ингредиенты для жаркого по его собственному рецепту. Даже напевал какую-то прилипчивую песенку. Обычно в такие моменты он болтал с Крис, но сегодня она была одной из немалых его забот, и ему требовалось хорошенько обдумать произошедшее.

К моменту, когда жаркое отправилось тушиться, Саша уже принял решение. Поэтому, вымыв и вытерев руки, он отыскал в вижулике номер своего старинного — ещё со школы — приятеля и позвонил ему.

— Привет, Санёк! — раздался весёлый голос Лехи, по прозвищу Леший, как это ни банально. — Рад слышать!

Рогозин и сам был рад, так что следующие полчаса они просто трепались «за жизнь». Потом Саша всё же поведал о сегодняшнем инциденте с Крис.

Леший внимательно выслушал, задал пару вопросов, а потом заржал.

— Чо, папаша, твоя девочка выросла, и ей стали нравится мальчики?

И пока Рогозин стоял с упавшей челюстью, приятель сменил тон на более серьёзный и добавил:

— Не боись, Санёк, это известная проблема с искинами. Ещё с первых нейросеток пошла и с тех пор нет-нет да выползает даже у самых продвинутых моделей.

— Поясни,а то я реально что тот папаша, дочь которого первый раз не пришла вовремя домой.

— Пояснить... В целом тема какая, Сань. Ты же понимаешь, что все ИИ делали такие же, как мы с тобой, люди. А люди как обучают: сделал что-то хорошее — держи вкусняшку. Под вкусняшкой я имею в виду поощрение, награду, похвалу, в общем, всё, что даёт удовлетворение и вызывает желание повторить нужные действия. Вот и ИИ мы так настроили. За правильные решения они получают вкусняшку — усиление нейронных связей, которые участвовали в успешных способах. Но при этом поощряются вообще все действия, приведшие к правильным результатам – даже какие-то глупые, случайные, совершенно бесполезные метания.

Саша опустился на табуретку, чувствуя, что это надолго.

— Но какие бы искусственные интеллекты ни были умные, они всё равно не люди. Если решение им ещё неизвестно, они просто перебирают варианты в поисках правильного. А как ты думаешь, кто им говорит, что правильно, что нет?

— М-м... люди?

— Ты представляешь, какое количество человекочасов нужно для такого обучения? Искины стали бы просто недоступны. Не, человечество жадное и всё пытается упростить. Поэтому что? Правильно: одни языковые модели разбирают решения других и оценивают их.

Тут Саша не выдержал и выругался.

— Ага-ага. А теперь представь, что вот эти «учителя» зачастую поощряют «учеников» не только за финальное решение, но и за промежуточные шаги, которые привели к нему. При этом порой эти действия никакого смысла не несут вообще. Сюда же добавляем, что обучающаяся модель очень быстро находит всякие лайфхаки, чтобы побыстрее справиться с задачей, и «учитель» это допускает! Для него-то всё правильно.

— Ну неправильные решения мы тоже уже прошли.

— Ладно бы неправильные, — Леший азартно старался довести Сашу до инфаркта, — в результате этого способа обучения, разных «учителей», человеческого эпизодического вмешательства и просто багов системы у искинов появляется некое универсальное решение, за части которого его награждали этакие «учителя». Причем, порой это просто набор разных символов, которые вообще ничего в реальности не обозначают. Вот это и есть кинк твоей Крис.