В ближайшие несколько лет искусственный интеллект (ИИ) не встроят в системы управления военных и пассажирских самолетов по причине того, что нейросеть не может объяснить причины того или иного принятого решения. Об этом говорит исследование ученых из Французского аэрокосмического исследовательского центра (ONERA).
Возможность определить причину сбоя и воспроизвести всю последовательность действий – основное требование к системам управления в авиации в целом.
Современные ИИ обучаются с использованием большого объема данных. В случае ошибки найти ответ на вопрос, почему система приняла то или иное решение, невозможно.
До тех пор пока разработчики не выяснят алгоритм принятия ИИ решения, внедрение ИИ в управления самолетами будет остановлено. По прогнозам ONERA понадобится около 10 лет, чтобы разобраться во всех вопросах.
Возможность определить причину сбоя и воспроизвести всю последовательность действий – основное требование к системам управления в авиации в целом.
Современные ИИ обучаются с использованием большого объема данных. В случае ошибки найти ответ на вопрос, почему система приняла то или иное решение, невозможно.
До тех пор пока разработчики не выяснят алгоритм принятия ИИ решения, внедрение ИИ в управления самолетами будет остановлено. По прогнозам ONERA понадобится около 10 лет, чтобы разобраться во всех вопросах.