Создатели Claude предлагают нажать на тормоза?

Компания Anthropic, стоящая за одной из самых умных нейросетей
в мире, заговорила о необходимости глобальной системы контроля за развитием искусственного интеллекта. Технологии развиваются быстрее, чем общество и законы успевают к ним адаптироваться. В Anthropic считают, что в будущем миру может понадобиться своеобразное «глобальное ограничение скорости» для передовых разработок.

Они не требуют запретить ИИ прямо сейчас. Речь идет о концепции ответственного масштабирования. Если новая версия нейросети достигает потенциально опасного уровня возможностей,
а протоколы безопасности за ней не поспевают, исследования нужно ставить на паузу. И продолжать только тогда, когда защита будет гарантирована. По сути, это призыв к мировой индустрии договориться о правилах игры, пока гонка корпораций не зашла слишком далеко.

Хотите научиться работать с языковыми моделями на глубоком уровне? Ждем на буткампе LLM-инженер🚀 https://lnkd.in/dSWHcabN

Материал принадлежит @pubity