#opg $OPG Чем больше ограничивают ИИ, тем важнее становится проверка
Я читал о правилах использования некоторых продвинутых моделей ИИ, и это заставило меня задуматься о чем-то, о чем не говорят очень часто.
Большинство людей думает о том, у кого есть модель ИИ.
Я все время думаю о том, кто сможет проверить, что эта модель на самом деле делает.
Индустрия ИИ сейчас контролируется крупными компаниями. Они отвечают за модели, системы, обновления и часто за правила, кто может их использовать. Когда появляются новые правила, будь то для безопасности, политики или законов, пользователи обычно должны их принимать.
Вот тогда я заметил OpenGradient.
Что отличает OpenGradient, так это то, что они не просто обещают ИИ. Многие проекты это обещают. Интересно то, что они хотят создать систему, где мы можем проверить, что делает ИИ, вместо того чтобы просто ему доверять. Система разработана так, чтобы мы могли видеть, что делает ИИ; у нее есть компьютеры для этого, и она использует секретные коды для проверки вместо того, чтобы полагаться на одного человека, который будет контролировать.
Все еще есть некоторые вопросы.
Проверка того, что делает ИИ, звучит как идея, но сколько пользователей на самом деле это сделают? Будут ли разработчики довольны тем, что это будет сложнее, если пользоваться крупными компаниями проще? Может ли система, которая не контролируется одной компанией, конкурировать с ИИ-компаниями, которые тратят много денег на системы?
Я видел много проектов, которые используют коды и утверждают, что они справедливы, но на самом деле они просто воспроизводят те же проблемы, которые должны были решить.
Фокус OpenGradient на том, чтобы пользователи контролировали свою информацию, могли проверять, что делает ИИ, и могли перемещать свою информацию об ИИ, кажется настоящей попыткой сделать что-то по-другому.
Настоящее испытание заключается в том, решат ли люди в конечном итоге, что доверять недостаточно.
Если ИИ начнет использоваться для таких вещей, как деньги, здравоохранение, кто мы и общественные системы, должны ли мы иметь возможность проверять, что он делает?
Двигаемся ли мы к будущему, где возможность проверить ИИ так же важна, как и сам ИИ? @OpenGradient
Я читал о правилах использования некоторых продвинутых моделей ИИ, и это заставило меня задуматься о чем-то, о чем не говорят очень часто.
Большинство людей думает о том, у кого есть модель ИИ.
Я все время думаю о том, кто сможет проверить, что эта модель на самом деле делает.
Индустрия ИИ сейчас контролируется крупными компаниями. Они отвечают за модели, системы, обновления и часто за правила, кто может их использовать. Когда появляются новые правила, будь то для безопасности, политики или законов, пользователи обычно должны их принимать.
Вот тогда я заметил OpenGradient.
Что отличает OpenGradient, так это то, что они не просто обещают ИИ. Многие проекты это обещают. Интересно то, что они хотят создать систему, где мы можем проверить, что делает ИИ, вместо того чтобы просто ему доверять. Система разработана так, чтобы мы могли видеть, что делает ИИ; у нее есть компьютеры для этого, и она использует секретные коды для проверки вместо того, чтобы полагаться на одного человека, который будет контролировать.
Все еще есть некоторые вопросы.
Проверка того, что делает ИИ, звучит как идея, но сколько пользователей на самом деле это сделают? Будут ли разработчики довольны тем, что это будет сложнее, если пользоваться крупными компаниями проще? Может ли система, которая не контролируется одной компанией, конкурировать с ИИ-компаниями, которые тратят много денег на системы?
Я видел много проектов, которые используют коды и утверждают, что они справедливы, но на самом деле они просто воспроизводят те же проблемы, которые должны были решить.
Фокус OpenGradient на том, чтобы пользователи контролировали свою информацию, могли проверять, что делает ИИ, и могли перемещать свою информацию об ИИ, кажется настоящей попыткой сделать что-то по-другому.
Настоящее испытание заключается в том, решат ли люди в конечном итоге, что доверять недостаточно.
Если ИИ начнет использоваться для таких вещей, как деньги, здравоохранение, кто мы и общественные системы, должны ли мы иметь возможность проверять, что он делает?
Двигаемся ли мы к будущему, где возможность проверить ИИ так же важна, как и сам ИИ? @OpenGradient