Методологический семинар ИСИ СО РАН

В настоящее время искусственный интеллект, основанный на нейронных сетях, стал активно применяться в программном обеспечении систем, к надежности и корректности которых предъявляются повышенные требования. В качестве примера таких систем можно привести беспилотные авиационные системы, беспилотные транспортные системы, роботизированные системы, экспертные системы в банковской сфере и т.д. Традиционно для проверки корректности и надежности программного обеспечения применяется тестирование. Но известно, что тестирование не может гарантировать корректность программ. Это может сделать только формальная верификация, которая позволяет формально доказать, что программа корректна относительно своих спецификаций. Формальную верификацию можно применить и к нейронным сетям, чтобы сделать основанный на них искусственный интеллект доверенным. В отличие от тематики формальной верификации программного обеспечения общего назначения, тематика формальной верификации нейронных сетей начала активно развиваться относительно недавно. Итого, проблема формальной верификации систем искусственного интеллекта, основанных на нейронных сетях, является актуальной. В данном докладе будет рассмотрено наше исследование по созданию комплексного подхода к формальной верификации систем искусственного интеллекта, основанных на нейронных сетях, созданный ранее в ИСИ СО РАН теоретический и практический задел для нашего исследования, преимущества нашего исследования перед новейшими зарубежными исследованиями и перспективы нашего исследования.