Anthropic и OpenAI обсъждат вграждане на оценители по безопасността

Подробности

Anthropic и OpenAI предложиха да вградят независими оценители за безопасност в своите изследователски лаборатории. Инициативата предвижда външни експерти да имат директен достъп до работните процеси, модели и практики в центровете за разработка на изкуствен интелект.

Реакциите от научната общност са положителни по отношение на самата идея за предоставяне на достъп, който до момента е рядък. Изследователи виждат в това възможност за по-подробна и непосредствена оценка на рисковете, породени от съвременните AI системи.

Въпреки това категорично се посочва, че присъствието на външни оценители само по себе си не е достатъчно. За да бъде надзорът смислен, според учените са необходими прозрачни механизми за работа, гарантирана независимост на оценителите и ясни стандарти за оценка.

Критиците предупреждават и за нуждата от регулация в дългосрочен план. Те отбелязват, че вътрешни механизми и доброволни инициативи могат да имат ограничен ефект, ако не бъдат подкрепени от външни правила и контролни рамки.

Предложението на Anthropic и OpenAI предизвиква дебат за баланса между достъпността на външни експерти и реалната възможност те да упражняват независим контрол. Наличните коментари акцентират върху трите ключови изисквания — прозрачност, независимост и регулация — като предпоставка за ефективен надзор.

Остава неясно какви конкретни механизми или критерии за независимост ще бъдат приложени и дали ще има стандартизирани правила за работа на външните оценители. До този момент информацията е ограничена до общото предложение и реакциите на изследователите.