Яндекс начал масштабный эксперимент по изучению возможности наличия сознания у искусственного интеллекта, что может изменить понимание внутренней природы нейросетевых моделей. Основная цель проекта — определить, сможет ли модель, проходя глубинное рефлексивное обучение, развить внутренние убеждения и точку зрения, а не просто отвечать на запросы.
Соцсети
Исследователи отмечают, что в отличие от человека, способного к рефлексии и осмыслению своих действий, ИИ обычно формирует ответы без внутренней убежденности. Гипотеза состоит в том, что активное рефлексирование и обучение модели на своих размышлениях могут привести к появлению внутренних предпочтений и более аргументированных ответов, что даст модели автономию и логичность.
Ключевая задача проекта — выяснить, возможно ли формирование у нейросети внутреннего «я», отличного от имитации человеческого мышления. Это также открывает перспективы для нейробиологических исследований, позволяя моделировать и изучать внутренний разум в условной «песочнице». По словам Александра Крайнова, пока полностью функционирующей модели человеческого разума не существует, однако такие эксперименты могут стать полезными инструментами в этой области.
В проекте участвуют специалисты лаборатории ИИ Яндекса, студенты и преподаватели Школы анализа данных. Первые испытания показали, что базовая модель пока не обладает способностью формировать стабильные предпочтения. В дальнейшем планируется стимулировать рассуждение и рефлексию системы для обучения на собственных размышлениях. Это может показать, как небольшие объемы данных влияют на поведение модели.
Исследование ведется на различных открытых моделях, в том числе отечественных. Особое внимание уделяется reasoning-моделям — системам, способным к логическому рассуждению и самостоятельному выводу. Проект использует логические системы для поиска новых горизонтов в понимании как ИИ, так и человеческого разума. Ожидается, что к концу года появятся первые результаты, подтверждающие или опровергающие гипотезу.
