РБК
ИИ помогает лучшим и вредит остальным. Как компаниям избежать ловушки
Доступ к генеративному ИИ сам по себе не гарантирует роста эффективности бизнеса. Новое исследование с участием сотен предпринимателей показало: при использовании одних и тех же инструментов ИИ способен как улучшить результаты, так и ухудшить их
Генеративный ИИ способен повысить эффективность наиболее успешных владельцев бизнеса, но может ухудшить результаты тех, кто уже испытывает трудности. Ключевую роль в этом играет способность человека критически оценивать рекомендации. 
Может ли генеративный ИИ стать эффективным советником для владельцев бизнеса и предпринимателей? Интуитивно понятные интерфейсы в формате диалога на естественном языке позволяют пользоваться инструментами генеративного ИИ практически каждому, кто умеет читать и писать, даже без технической подготовки. Это особенно важно для предпринимателей и владельцев малого бизнеса, которым может быть полезен постоянно доступный консультант, способный помочь с маркетингом, ценообразованием, операционной деятельностью и стратегией. 
Повышение эффективности предпринимателей в широком масштабе остается сложной задачей. Наиболее действенными обычно оказываются форматы с непосредственным участием экспертов: практический консалтинг, индивидуальное наставничество и очные деловые связи. Однако такие меры требуют значительных затрат и плохо масштабируются. Особенно остро эта проблема проявляется на развивающихся рынках, где качественная поддержка бизнеса часто недоступна, а ее стоимость может оказаться слишком высокой по сравнению с ресурсами компаний. Недорогой и постоянно доступный ИИ-наставник потенциально способен в массовом порядке предоставить тот уровень деловой экспертизы, который исторически был ограничен стоимостью и доступностью специалистов. 
Чтобы проверить, действительно ли доступ к генеративному ИИ помогает малому бизнесу, группа специалистов из ведущих мировых школ бизнеса и управления провела эксперимент с участием нескольких сотен владельцев малого бизнеса в Кении. Половина участников случайным образом получили доступ к контакту в WhatsApp, который соединял их с версией GPT-4 компании OpenAI, заранее настроенной на роль консультанта по ведению бизнеса в Кении. 
Затем исследователи в течение определенного времени отслеживали результаты работы компаний. Главным фактором, определявшим рост или снижение прибыли и выручки, оказалась способность предпринимателя отличать качественные рекомендации ИИ от ошибочных. Проверка советов ИИ в реальных условиях 
Во многих предыдущих исследованиях генеративного ИИ внимание уделялось узким и четко определенным задачам, таким как подготовка электронных писем, разработка бизнес-стратегии или создание рекламных материалов. В подобных случаях результат работы инструмента часто можно использовать почти без изменений, что позволяет получать выгоду от ИИ даже менее квалифицированным пользователям. Исследования подтверждают эту закономерность: наибольшую пользу от подобных инструментов обычно получают сотрудники, которые до начала использования ИИ испытывали самые большие трудности. 
Однако управление бизнесом нельзя назвать узкой или четко определенной задачей. Предпринимателям регулярно приходится сталкиваться с расплывчатыми и неоднозначными проблемами. Им необходимо не просто написать электронное письмо, а определить, какую проблему следует решать, какую стратегию выбрать, какие рекомендации подходят именно для их ситуации и какие из них стоит реализовать с учетом существующих ограничений. Сам по себе ИИ обычно плохо справляется с подобными задачами. Когда компания Anthropic передала своей большой языковой модели Claude Sonnet 3.7 полное управление небольшим автоматизированным магазином в офисе в Сан-Франциско, модель продавала товары себе в убыток, бесплатно раздавала продукцию и быстро сделала бизнес убыточным. Но что произойдет, если вместо самостоятельного управления компанией ИИ будет лишь консультировать предпринимателя, который сможет сам решать, какие рекомендации применять, а какие игнорировать? 
Чтобы оценить влияние ИИ на такую комплексную задачу, как управление бизнесом, исследователи разработали эксперимент, максимально приближенный к реальным условиям, в которых работают предприниматели. В исследование были привлечены 640 владельцев малого бизнеса в Кении из различных отраслей, включая общественное питание, сельское хозяйство и услуги автомоек. 
Рандомизированное контролируемое исследование (в котором участников случайным образом распределяют по группам для объективной оценки результатов) проводилось с мая по ноябрь 2023 года. Поскольку большинство жителей страны активно используют мобильную связь, половина участников получили доступ к бизнес-консультанту на базе GPT-4 через WhatsApp - наиболее популярный мессенджер в Кении. При этом 80% участников никогда ранее не пользовались ChatGPT или другими инструментами генеративного ИИ. Обе группы прошли краткое вводное обучение, однако контрольная группа вместо доступа к ИИ получила онлайн-пособие по ведению бизнеса. 
Владельцы бизнеса из экспериментальной группы могли задавать помощнику любые вопросы, связанные с ведением бизнеса, и пользоваться им столько, сколько считали нужным. Исследователи отслеживали динамику продаж и прибыли, сравнивая результаты предпринимателей, получивших доступ к ИИ-помощнику, с показателями контрольной группы, которая такого доступа не имела. В среднем различия между результатами контрольной и экспериментальной групп оказались близки к нулю и не были статистически значимыми. 
Однако средний показатель скрывал существенное расхождение: среди владельцев бизнеса, которые еще до начала эксперимента демонстрировали высокие результаты (то есть входили в верхние 50% по эффективности), доступ к генеративному ИИ увеличил выручку и прибыль на 15%. В то же время у предпринимателей из нижних 50% использование ИИ привело почти к десятипроцентному снижению выручки и прибыли. Одинаковые советы - разные решения 
Почему инструмент, способный предлагать качественные рекомендации для бизнеса, наносил ущерб предпринимателям, которым должен был помочь? Исследование показало, что как более успешные, так и менее успешные предприниматели задавали примерно одинаковое количество вопросов, обращались с вопросами схожего типа и даже получали от ИИ схожие рекомендации. Разница заключалась в том, какие из этих рекомендаций они решали реализовать. 
Собранные данные показали, что каждый предприниматель независимо от исходных результатов получал как универсальные рекомендации вроде "снизьте цены" или "увеличьте расходы на рекламу", так и более точные советы, учитывающие особенности конкретной ситуации. Предприниматели с более низкими показателями значительно чаще следовали именно общим рекомендациям, снижая цены и увеличивая рекламные расходы. Такие универсальные решения нередко сокращали прибыльность бизнеса и увеличивали издержки, не обеспечивая достаточного роста числа клиентов, чтобы компенсировать дополнительные расходы. 
Более успешные предприниматели, напротив, использовали генеративный ИИ для поиска и внедрения решений, соответствующих именно их обстоятельствам. Так, владелец интернет-кафе начал сдавать клиентам в аренду игровые аксессуары; владелец автомойки ввел в ассортимент новый востребованный моющий состав и начал продавать прохладительные напитки посетителям, ожидающим обслуживания; еще один предприниматель нашел альтернативные источники электроснабжения, чтобы снизить влияние перебоев с подачей электроэнергии. 
Обе группы имели доступ к рекомендациям ИИ одинакового качества. Разница заключалась в том, обладали ли предприниматели способностью критически оценивать предложения ИИ, выбирать идеи, подходящие именно их бизнесу, и отказываться от остальных. 
Главный вывод исследования: в ситуациях, когда проблемы имеют широкий и неоднозначный характер, генеративный ИИ усиливает значение человеческого суждения. Польза, которую способен принести ИИ-консультант для решения открытых, не имеющих единственного правильного ответа задач, напрямую зависит от качества человеческих решений, определяющих, как использовать его рекомендации. 
В подобных ситуациях положительное влияние ИИ на результаты работы возможно только при условии, что пользователь умеет задавать правильные вопросы, интерпретировать полученные рекомендации и выбирать, какие из них следует реализовать. Для пользователей с развитым критическим мышлением такой инструмент помогает находить новые идеи и оценивать преимущества и недостатки различных вариантов. Пользователи, которым не хватает такого навыка, могут последовать советам, которые выглядят убедительно, но вводят в заблуждение, что приводит к ухудшению результатов. 
Для руководителей и лиц, принимающих решения в сфере государственной политики, понимание этого различия имеет принципиальное значение. Без такого понимания даже внедрение ИИ с благими намерениями может увеличить разрыв в эффективности, поскольку именно те, кто больше всего нуждается в помощи, зачастую хуже всего подготовлены к тому, чтобы критически оценивать и правильно применять полученные рекомендации. Как руководителям внедрять ИИ для решения открытых задач 
Опыт разработки и запуска ИИ-консультанта на базе WhatsApp показал, насколько быстро и с минимальными затратами можно развернуть инструменты генеративного ИИ и сделать их доступными широкому кругу пользователей. 
Однако быстрое внедрение подобных решений также повышает риск того, что организации начнут использовать ИИ для решения открытых задач без достаточных механизмов контроля и оценки эффективности. По мере снижения стоимости внедрения ИИ его начинают применять для все более широкого круга задач, не имеющих заранее определенного алгоритма решения. Так, инженеры Google уже используют инструменты ИИ для программирования в повседневной работе, и имеющиеся данные свидетельствуют о том, что наибольшую выгоду от них получают наиболее опытные разработчики. 
В книжном издательском бизнесе известные авторы смогли увеличить объем выпускаемых произведений с помощью ИИ, тогда как рынок оказался заполнен большим количеством слабых по качеству текстов, созданных новыми авторами с использованием ИИ. Для руководителей, отвечающих за внедрение ИИ в организациях, эти результаты подтверждают необходимость тщательно проектировать такие решения и объективно оценивать их влияние, чтобы использование ИИ непреднамеренно не ухудшало результаты работы. Что могут сделать руководители 
Прежде всего - сформировать правильное понимание возможностей ИИ. Не следует исходить из того, что использование ИИ автоматически повысит эффективность каждого сотрудника. Оценка, основанная только на средних показателях, может вводить в заблуждение, поскольку средние значения способны скрывать существенные негативные последствия для отдельных групп пользователей. 
Следующий шаг - учитывать различия между пользователями при проектировании решений. Для сотрудников, обладающих опытом и развитым профессиональным суждением, инструменты генеративного ИИ для решения открытых задач способны приносить заметную пользу. Менее опытным сотрудникам или тем, кто показывает более слабые результаты, могут потребоваться более жесткие ограничения, чтобы снизить риск следования ошибочным рекомендациям. 
Одно из перспективных направлений - предоставить ИИ более полную информацию о конкретной ситуации пользователя: данные о его бизнесе, финансовых показателях или конкурентной среде. Это позволит системе точнее отсекать универсальные рекомендации, не соответствующие конкретным условиям. Однако создание ИИ, способного учитывать такой контекст, остается открытой задачей, над которой активно трудятся разработчики. 
Пока же наиболее вероятно, что большинству пользователей генеративный ИИ принесет наибольшую пользу при выполнении конкретных и четко определенных задач, например при подготовке кратких изложений документов, улучшении качества письменных текстов или проверке программного кода на эффективность, а не при решении задач, требующих глубокого понимания контекста для оценки применимости рекомендаций и их грамотной реализации. 
Организациям также следует инвестировать в развитие человеческого профессионального суждения и создавать дополнительные механизмы поддержки при использовании ИИ. При принятии решений с высокой ценой ошибки обязательной мерой защиты должно стать привлечение человека-эксперта, особенно если рекомендации ИИ носят открытый характер, зависят от конкретного контекста или их сложно оценить заранее. 
Организации могут повысить безопасность использования таких инструментов, внедряя структурированные процедуры первоначальной настройки, позволяющие собрать необходимый контекст, контрольные списки для принятия решений или предупреждения о действиях, способных привести к снижению прибыльности бизнеса. 
Третий шаг - регулярно проверять, не оказывает ли использование ИИ неодинаковое влияние на разные группы пользователей, анализируя три направления.  Использование: отказываются ли некоторые группы пользователей от инструмента полностью или используют его значительно реже других. Взаимодействие с системой: задают ли разные пользователи вопросы разного типа, предоставляют ли разный объем контекстной информации или получают существенно отличающиеся результаты? Последствия: влияет ли инструмент на реальные решения пользователей и приводят ли эти решения к лучшим результатам для одних групп по сравнению с другими?  
Ответы на эти вопросы помогут руководителям определить, на каком этапе возникает неравенство в результатах, чтобы затем устранить его с помощью адресного обучения, изменения рабочих процессов или усиления механизмов контроля. 
ИИ действительно обладает значительным потенциалом для масштабного повышения эффективности бизнеса, однако получение таких преимуществ не гарантировано. Результаты исследования показывают, что генеративный ИИ способен непреднамеренно усиливать неравенство в результатах бизнеса, помогая более успешным пользователям значительно больше остальных и потенциально ухудшая положение менее успешных. Поэтому при массовом внедрении ИИ ключевой задачей становится не просто обеспечить доступ к таким инструментам, а сделать их использование действительно эффективным, чтобы масштабирование ИИ не привело одновременно к масштабированию неравенства.

Оригинал статьи доступен по ссылке