Компании любят хвалиться применением искусственного интеллекта (ИИ) даже там, где оно по сути бессмысленно, но ИИ в теперешнем его состоянии всё же довольно прост. Хотя он и может давать полезные результаты, но при этом ИИ не способен внятно объяснить почему он пришёл к таким результатам. Однако, в DARPA видят возможность сделать шаг вперёд в этой области.
Управление запускает исследовательскую программу, которая должна продвигать новые концепции в ИИ, включая ИИ «третьей волны», способный к контекстной адаптации и умеющий вразумительно объяснить свои решения. Например, если ИИ опознает кошку, он сможет пояснить, что идентифицировал мех, лапы и усы в знакомой ему форме кошки.
DARPA надеется ускорить продвижение в этом направлении. Они обещают оптимизированные процессы, которые приведут к запуску проектов через три месяца после предложения финансирования — вовсе не обязательно ожидать прорывных результатов в области ИИ в течение долгих лет.
Конечно же, индустрия ИИ не зависит от планов DARPA. Вполне возможно, что компании так же быстро создадут ИИ третьей волны своими путями, но программа DARPA может придать ускорение работе этих компаний. Также она показывает, что пионеры ИИ готовы продвигаться за пределы сегодняшнего базового машинного обучения, к ИИ, который действительно думает, а не только лишь перемалывает данные.
Агентство DARPA действительно делает важный шаг в разработке искусственного интеллекта, который сможет объяснять свои решения. Это может значительно повысить прозрачность работы AI и помочь людям лучше понимать, как принимаются решения. Такой подход важен для создания доверия к технологиям и их безопасного использования в различных сферах, от медицины до военных операций.