Одно из подразделений Google, занимающееся разработкой искусственного интеллекта, использует генеративный ИИ для создания по меньшей мере 21 различного инструмента для получения жизненных советов, планирования и обучения, сообщила газета The New York Times.
Как ранее сообщал телеканал CNBC, подразделение DeepMind компании Google стало «проворным и быстро развивающимся» знаменосцем в области ИИ, и именно оно занимается разработкой этих инструментов, пишет газета Times.
Новость о разработке этого инструмента появилась после того, как в декабре собственные эксперты Google по безопасности ИИ представили руководителям компании слайдовую таблицу, в которой говорилось, что пользователи, получающие жизненные советы от инструментов ИИ, могут столкнуться с «ухудшением здоровья и благополучия» и «потерей самостоятельности», сообщает Times.
По имеющимся данным, Google заключила контракт с компанией Scale AI, стартапом стоимостью 7,3 млрд долларов, занимающимся обучением и проверкой программного обеспечения ИИ, для тестирования инструментов. По словам источников, знакомых с ситуацией и беседовавших с Times, над проектом работают более 100 человек с докторскими степенями. Частично тестирование включает в себя изучение того, могут ли эти инструменты давать советы по отношениям или помогать пользователям отвечать на интимные вопросы.
В одном из примеров, как сообщает Times, речь шла о том, как разрешить межличностный конфликт.
По данным Times, инструменты, которые разрабатывает DeepMind, не предназначены для терапевтического использования, а общедоступный чат-бот Bard компании Google предоставляет ресурсы для поддержки психического здоровья только в случае запроса терапевтического совета.
Отчасти эти ограничения обусловлены противоречиями в отношении использования ИИ в медицинских или терапевтических целях. В июне Национальная ассоциация по борьбе с расстройствами пищевого поведения была вынуждена приостановить работу своего чат-бота Tessa после того, как он дал вредный совет по поводу расстройства пищевого поведения. И хотя врачи и регулирующие органы неоднозначно относятся к тому, окажется ли ИИ полезным в краткосрочном контексте, все сходятся во мнении, что внедрение инструментов ИИ для дополнения или предоставления консультаций требует тщательного обдумывания.
«Мы давно сотрудничаем с различными партнерами для оценки наших исследований и продуктов в Google, что является важнейшим шагом в создании безопасных и полезных технологий», — заявил представитель Google DeepMind в интервью CNBC. «В любой момент времени проводится множество таких оценок. Отдельные образцы оценочных данных не являются репрезентативными для нашей «дорожной карты» продуктов».
