«Яндекс» начал масштабное исследование, чтобы выяснить, способен ли искусственный интеллект развивать свои собственные устойчивые предпочтения и внутренние убеждения. На первом этапе стало ясно, что базовая языковая модель без дополнительного обучения не формирует стабильных предпочтений.
Сейчас начинается основной этап: нейросеть будут стимулировать к размышлениям и саморефлексии, чтобы она обучалась на собственных рассуждениях. Это позволит ИИ создавать внутренние логические структуры и давать обоснованные ответы, например, объяснять свой выбор любимого цвета. Такой подход может привести к формированию у нейросети собственной точки зрения.
Эксперимент направлен на глубокое изучение механизмов человеческого мышления и расширение возможностей ИИ.
До конца года «Яндекс» рассчитывает приблизить ИИ к появлению осознанного мышления, способного решать сложные задачи, недоступные современным моделям.
