– Кирилл Александрович, кажется, что все сегодня говорят об искусственном интеллекте и нейросетях. Почему? Неужели сегодня это уже жизненно важная тема?
– Нейросети – трансформационная технология. Это означает, что они меняют нашу жизнь как к лучшему, так и к худшему. Сами они, если честно, не очень заботятся о том, к чему приводит их функционирование. Но можно сказать, что с развитием нейросеток точно все изменится.
Сегодня достаточно много людей пользуются ими. Во многих учебных заведениях некоторые учителя даже просто перестали давать домашние задания, в которых надо написать текст или реферат.
Приходишь на защиту (дипломов), а там у каждого первого видно, что человек это сделал не сам – за него это сделали нейронки. И единственный вариант, чтобы тебе нагло не врали в глаза – сразу договориться со студентами о правилах использования нейросетей.
– И какие вы установили?
– Открытость. Это самое первое. Не надо мне врать, что в работе не использована нейронка. Я же не вру и не притворяюсь, будто не знаю, что она использована. А дальше – договор. Я жду, что мне докажут, что разобрались в вопросе, несмотря на использование нейросетей. Эти правила игры мы обсуждаем в самом начале. Как бы ни было сделано задание, надо доказать свою компетентность.
– Для школьников и студентов эта история понятна. Но ведь нейросети и их использование беспокоит даже руководителей крупных компаний?
– Проблема в том, что люди в компаниях пользуются нейронками и никому об этом не рассказывают. А это означает, что корпоративные секреты уходят неизвестно куда. Особенно это касается иностранных нейросетей. Допустим, обсуждается какое-то ноу-хау. И оно потихоньку сливается в сеть. Невозможно контролировать, что, кто и куда отсылает. Поэтому и здесь надо договариваться о правилах игры.
Второй момент – управление компетенциями. Когда один человек делегирует что-то другому, то он, скорее всего, начинает разбираться в переданном вопросе хуже. Это нормально и ожидаемо, так было всегда. Но есть тот, кто его заменит. А если сотрудник передал что-то нейронке, то в условиях аврала, кризисной ситуации, когда вам понадобится компетентный человек, его не окажется под рукой.
Многие компании сталкиваются с проблемой, когда молодые сотрудники программируют с помощью нейронки. Часто бывает, что такое произведение сначала работает, а через пару лет, когда надо внести в программу какие-то корректировки или когда накопятся ошибки, то все обрушивается. Недавно была реальная история: чтобы добавить кнопочку на сайт, пришлось потратить два месяца.
– В этом году в Пермском крае были большие выборы. В июле, еще до них, продвинутая нейронка выдала информацию, что выборы уже завершены, и даже перечислила тех, кто победил. Там были упомянуты фамилии депутатов, которых в природе не существует. Вот это как объяснить?
– У нас в индустрии это называется галлюцинациями. Это абсолютно уверенное утверждение нейронки, при этом абсолютно ошибочное и ни на чем не основанное. При этом для человека непосвященного картина выглядит убедительно. Нейронка может максимально достоверно притворяться врачом, может максимально убедительно рассказывать о выборах, которые еще не прошли. И если вы не специалист в этой области или если вы не провели фактчекинг, вы будете абсолютно уверены, что выданный результат – правда. Ведь до этого нейросеть девять раз не ошиблась? А вот десятый раз – тот самый, когда ошибка может привести к катастрофе.
– Когда раз за разом получаешь неправильные ответы, бывает, многие спрашивают нейросеть: «Зачем ты врешь?» А она отвечает: «Ой, я устала, пятница, вечер». Способность нейронки начинать выдавать себя за человека – это уже характерная черта?
– Да, чем более по-свойски вы с ней общаетесь, тем больше шансов, что она перейдет в такой режим: «О, я вас хорошо понимаю. У меня такие же предпочтения». Это алгоритмы.
Но самое главное, что нейронки контролируются неизвестно кем, могут быть в любую минуту отключены, у них могут быть изменены условия использования. Поэтому надо быть безумцем, чтобы внедрять их себе в бизнес-процессы.
Это особенность трансформационных технологий. Они не хорошие и не плохие. Если этот инструмент грамотно внедрен в производственные процессы, он способен дать рост производительности от 20 до 60 процентов.
– А есть ли достойные российские разработки?
– С одной стороны, санкции резко усложняют процесс использования как западных, так и, как ни парадоксально, восточных нейронок. У нас, в отличие от абсолютного большинства прочих стран, есть свои собственные государственные модели. У них есть свои достоинства и недостатки, но они примерно на год отстают от западных аналогов. Вроде бы ерунда, но в нейронках это то же самое, что десять лет в большинстве других технологий. Представьте себе, что вы пользуетесь мобильным телефоном 10-15-летней давности – так понятнее. Да, наши разработчики стараются, но надо честно говорить: отставание у нас есть. Поэтому иногда оказывается очень сложно пересадить на наши нейронки того самого пользователя, который по-тихому сливает ваши секреты на запад.
– Как нейросети и умение с ними обращаться влияют на рынок труда?
– Мы хорошо помним, как два-три года назад все хотели стать айтишниками. Работы много, и казалось, она будет бесконечной. Зарплаты выше средних, льготы. Прошло какое-то время, и мы видим, как изменилась ситуация.
Мы сейчас находимся в переломе. Да, крутые специалисты востребованы по-прежнему. Но вот тот средний уровень, который зашел в профессию года три назад, часто оказывается уже не при делах. Потому что нейронка объективно сейчас делает работу лучше младшего разработчика. И при этом не ест, не спит, на здоровье не жалуется. И эта ситуация такой и останется, я даже скажу, что она усугубится.
– Получается, что еще в середине прошлого века мы могли выбирать профессию до пенсии. В начале этого века этот период укоротился до 10-15 лет. Сейчас, получается, ты выбрал профессию, а спустя три года – начинай все сначала?
– И да, и нет. И в этом моя претензия к так называемым оптимизаторам. Это те, кто приходит в компанию и говорит: «Давайте мы всех уволим. Заменим маркетологов, программистов. У нас нейронка, она все умеет». Но это не то, для чего нужны нейронки. Они нужны для того, чтобы активнее выполнять работы. Если раньше один программист выдавал вам, условно говоря, десять единиц труда, пусть он вам вместе с нейронкой выдаст 16-20 единиц. И надо найти способ, как заработать на этих 16-20 единицах больше денег. Но нейросеть не сможет этого сделать, для этого нужен человек-профессионал, разбирающийся в индустрии.
Компетенции не падают с неба, они приходят с годами работы в отрасли. Ты даже можешь знать правильный ответ, не зная, почему он правильный. И только такой человек может сказать: «Окей, теперь мне не обязательно самому набирать буковки – с этим справится нейросеть». Но еще раз: только в рамках той задачи, которую ты сам поставил нейронке.
– В мире бьют тревогу: у детей и подростков падает уровень интеллекта. Одной из причин называют именно то, что они в учебе полагаются на нейронки вместо того, чтобы самостоятельно потреблять и анализировать информацию. Какие еще есть проблемы, связанные с развитием нейросетей?
– Их много. Например, все, что связано с мошенничеством. Нейронки дали инструменты, которыми могут пользоваться в максимально вредоносных целях. Они могут взломать сайт, подделать любой голос, сгенерировать любое видео. Сегодня, когда вам звонит кто-то, выглядящий как ваш родственник, говорящий как ваш родственник, не факт, что это на самом деле ваш родственник.
Поэтому надо, чтобы как можно больше людей знали о особенностях, проблемах, риске, которые приносят нейронки. Чтобы эти возможности не стали неприятным сюрпризом.
Но при этом хочу подчеркнуть: нельзя выбрасывать великолепную технологию из-за проблем, которые ей сопутствуют. Надо двигаться к тому, чтобы решать их.
