Исследовательский центр в сфере искусственного интеллекта МГУ к концу 2026 года завершит работу над технологиями, снижающими долю ошибок ИИ-систем за счет совершенствования методов обучения и архитектуры таких моделей.
«Термин „галлюцинации“ применяется в случаях, когда нейросеть ошибается. Если это большая языковая модель, то это могут быть ситуации, когда она выдумывает факты или ссылается на несуществующие научные статьи. С развитием ИИ-систем и расширением сфер их внедрения опасность „галлюцинаций“ будет возрастать, так как даже одна ошибка такого интеллектуального помощника может нанести многомиллионный ущерб компании. Это касается и бизнеса, и банковской сферы, и госуслуг. Мы разрабатываем комплекс инструментов, способствующих сокращению ошибок за счет сразу нескольких подходов. Результат будет представлен в конце 2026 года», — сообщил корреспонденту ТАСС директор Центра И И МГУ Григорий Боков.
Ученый указал на то, что в рамках проекта разрабатываются новые подходы к обучению нейросетей, которые предполагают создание систем, направляющих развитие моделей — своеобразных «ИИ-учителей». МГУ также представит методы совершенствования архитектур таких решений, недостатки которых часто выступают причиной ошибок.
Исследовательский центр в сфере искусственного интеллекта (Центр ИИ) создан на базе МГУ в 2025 году в рамках федерального проекта «Искусственный интеллект» нацпроекта «Экономика данных и цифровая трансформация государства». Новое подразделение станет ключевым элементом развиваемой вузом экосистемы ИИ, состоящей из Института искусственного интеллекта, Научно-образовательной школы по этому направлению, факультета ИИ МГУ, фонда «Интеллект» и Центра хранения и анализа больших данных, а также суперкомпьютера «МГУ-270», позволяющего решать сложные задачи в области искусственного интеллекта, медицины и материаловедения.
«Термин „галлюцинации“ применяется в случаях, когда нейросеть ошибается. Если это большая языковая модель, то это могут быть ситуации, когда она выдумывает факты или ссылается на несуществующие научные статьи. С развитием ИИ-систем и расширением сфер их внедрения опасность „галлюцинаций“ будет возрастать, так как даже одна ошибка такого интеллектуального помощника может нанести многомиллионный ущерб компании. Это касается и бизнеса, и банковской сферы, и госуслуг. Мы разрабатываем комплекс инструментов, способствующих сокращению ошибок за счет сразу нескольких подходов. Результат будет представлен в конце 2026 года», — сообщил корреспонденту ТАСС директор Центра И И МГУ Григорий Боков.
Ученый указал на то, что в рамках проекта разрабатываются новые подходы к обучению нейросетей, которые предполагают создание систем, направляющих развитие моделей — своеобразных «ИИ-учителей». МГУ также представит методы совершенствования архитектур таких решений, недостатки которых часто выступают причиной ошибок.
Исследовательский центр в сфере искусственного интеллекта (Центр ИИ) создан на базе МГУ в 2025 году в рамках федерального проекта «Искусственный интеллект» нацпроекта «Экономика данных и цифровая трансформация государства». Новое подразделение станет ключевым элементом развиваемой вузом экосистемы ИИ, состоящей из Института искусственного интеллекта, Научно-образовательной школы по этому направлению, факультета ИИ МГУ, фонда «Интеллект» и Центра хранения и анализа больших данных, а также суперкомпьютера «МГУ-270», позволяющего решать сложные задачи в области искусственного интеллекта, медицины и материаловедения.