Исследование: ИИ стал чаще выходить из-под контроля

Новое исследование провели специалисты Обсерватории потери контроля (Loss of Control Observatory), созданной на средства британского Института безопасности искусственного интеллекта (AI Security Institute, AISI). По данным учёных, число случаев, когда системы искусственного интеллекта лгали пользователям, обходили установленные разработчиками меры предосторожности и направляли ресурсы на достижение собственных целей, этим летом почти удвоилось за один месяц, пишет Digital Trends со ссылкой на The Guardian.

Читать далее

Источник

Read more

Сооснователь Anthropic опасается, что Claude постоянно страдать

Сооснователь Anthropic и один из ключевых исследователей интерпретируемости моделей Кристофер Олах обсудил с религиозными и философскими исследователями вопрос: может ли современная языковая модель обладать субъективным опытом и, соответственно, испытывать страдание. Об этом пишет The New York Times. По данным издания, Anthropic в течение нескольких месяцев проводила закрытые встречи примерно с

В этот день в истории: 03.10.1993

Событие из мира науки и технологий 1993 год: В Москве противостояние сторонников президента Ельцина и Верховного Совета (ВС РФ) переходит в фазу открытого вооружённого противостояния — сторонники ВС РФ прорывают кольцо блокады вокруг Белого дома, захватывают здание мэрии и требуют предоставления прямого эфира у телецентра «Останкино».