Внедрение ИИ – прогресс с оглядкой на человека

Вместе с новыми возможностями применения искусственного интеллекта в государственных услугах возникают вопросы: как подготовить людей корректно работать с ним и что нужно предусмотреть, чтобы автоматизация приносила пользу обществу? Эти вопросы обсуждались на национальной форсайт-сессии, организованной ЮНИСЕФ совместно с государственными партнерами в Астане. Ее ведущая Диана Мангалагиу, ассоциированный профессор бизнес-школы NEOMA, специалист по ИИ, устойчивому развитию и стратегическому прогнозированию, объяснила, почему последствия применения технологий необходимо учитывать еще при их внедрении.

Докторскую работу в области ИИ она завершила в 1996 году. Уже тогда, вспоминает эксперт, исследователи обсуждали вопросы управления искусственным интеллектом, этики его использования и недопущения ситуаций, когда одни алгоритмы могли бы создавать другие без человеческого надзора. Окружающим все эти дискуссии казались преждевременными. Однако вопрос этики возник уже при демонстрации прототипов распознавания речи и письма Почтовой службе США, когда один из руководителей увидел в них возможность заменить всех сотрудников машинами.

А с появлением ChatGPT и ему подобных масштаб таких инициатив вырос. Как рассказывает Диана Мангалагиу, ИИ развивался и использовался крупными корпорациями десятилетиями, в частности, в вопросах управления поставками и транспортом. Но как только у него появились способности общения с любым пользователем, так сразу ему нашлось применение практически во всех сферах жизни. И отношение к его массовому внедрению неоднозначное.

– Недавно в Оксфорде прошел крупный семинар с генеральными директорами компаний со всего мира, посвященный вопросам управления ИИ. По сути, они признали, что его внедрение – это угроза не будущим поколениям, а нынешним работникам. Один из участников признался, что раньше беспокоился о молодых сотрудниках своей команды, но теперь осознал, что 90% его собственной работы перейдет к ИИ, то есть, возможно, он сам станет ненужным. И это порождает определенное сопротивление повсеместному распространению искусственного интеллекта, – объяснила эксперт.

В школьном образовании последствия внедрения ИИ во многом зависят от подготовки педагогов и поддержки семьи. Мангалагиу обращает внимание: образованные родители чаще понимают, что ребенка нужно учить пользоваться технологией осмысленно – проверять ответы, учитывать ограничения и сохранять самостоятельность. Без такой поддержки ученик может просто поручать системе домашнюю работу. Если и преподаватель использует ИИ без критической оценки, то обучение рискует превратиться в обмен готовыми материалами.

– С помощью ИИ школьники готовят домашнюю работу, преподаватели – презентации. В итоге получается, что искусственный интеллект разговаривает сам с собой, а человека в комнате нет, – замечает профессор.

ИИ может усилить образовательное неравенство: одни дети получают помощника для развития мышления, другие – готовые ответы без освоения знаний. Снизить этот риск помогает соответствующая подготовка учителей, особенно в отдаленных районах, где педагог нередко становится главным проводником осмысленной работы с технологией.

Темпы цифровизации и масштабное внедрение ИИ требуют от государств готовности учитывать их последствия и, соответственно, пересматривать свои решения. Именно такую открытость эксперт увидела в нашей стране.

– Меня впечатляет, что Казахстан готов признать: возможно, в стратегии есть слабые места или она опирается на предположения, которые не всегда окажутся верными. Такая готовность к самоанализу, особенно со стороны государства, встречается нечасто, – резюмирует Диана Мангалагиу.

Это дает возможность исправлять просчеты до того, как они затронут целое поколение. Ведь знания и критическое мышление, которые дети приоб­ретают сегодня, определят, смогут ли они в будущем управлять технологиями и принимать решения о собственной жизни.