Я раньше думал, что проблемы доверия ИИ касаются точности.
Мира заставляет чувствовать это больше как проблему ответственности.
Когда система ИИ совершает ошибку, ущерб не статистический, он контрактный. Кто-то действовал на основе этого результата. Кто-то это одобрил. Кто-то несет ответственность за последствия.
Интересно, что направление Мира не просто спрашивает, является ли ответ, вероятно, правильным. Он спрашивает, является ли процесс принятия этого ответа обоснованным.
Это тонкое, но важное изменение.
Точность улучшает модели.
Обоснованность улучшает системы.
По мере того как ИИ движется в сторону финансов, соблюдения норм и рабочих процессов с высокой автоматизацией, "вероятно правильное" не будет достаточно. Важно, прошла ли выходная информация через структуру, которая распределяет риск, а не концентрирует его.
Будущее принятия ИИ не будет зависеть от более умных текстов.
Оно будет зависеть от того, кто сможет сказать с уверенностью,
"Это было проверено по правилам, которые мы все согласовали."
@Mira - Trust Layer of AI - Trust Layer of AI#mira $MIRA