Проект реализуется «Яндексом», исследователи пытаются понять, может ли нейросеть формировать устойчивые предпочтения и собственную точку зрения, не заимствованную из человеческих текстов.
На первом этапе специалисты выяснили, что базовая языковая модель не демонстрирует стабильных предпочтений без дополнительного обучения. Теперь планируется этап, в рамках которого ИИ будут стимулировать к рассуждениям и рефлексии, обучая его на собственных размышлениях.
Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов отметил, что подобный подход может привести к формированию у модели внутренних убеждений.
«Есть надежда, что если мы начнём обучать нейронную сеть на её собственных рассуждениях, то получится сделать модель, у которой появится действительно своя точка зрения… Внутренние убеждения. Или может даже нечто более того», — рассказал ТАСС Крайнов.
Президент Владимир Путин накануне поручил проработать создание штаба руководства деятельностью, связанной с искусственным интеллектом в России.