У США понад 200 провідних техкомпаній приєдналися до новоствореного консорціуму з безпеки ШІ
Адміністрація Байдена заявила, що провідні компанії США в галузі штучного інтелекту стали одними з більш ніж 200 організацій, які приєдналися до нового американського консорціуму для підтримки безпечної розробки і розгортання генеративного ШІ.
Про це повідомляє Reuters.
Міністр торгівлі США Джина Раймондо оголосила про створення Консорціуму-інституту з безпеки штучного інтелекту США (AISIC).
Міністр торгівлі США Джина Раймондо оголосила про створення AISIC, до якого входять OpenAI, Google, Anthropic, Microsoft, Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase та Bank of America.
"Уряд США відіграє важливу роль у встановленні стандартів і розробці інструментів, необхідних для зниження ризиків і використання величезного потенціалу штучного інтелекту", — йдеться в заяві Раймондо.
До консорціуму також входить BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa, а ще великі наукові та урядові установи. Нове обʼєднання працюватиме у складі Інституту безпеки штучного інтелекту США (USAISI).
Перед групою поставлено завдання працювати над пріоритетними заходами, викладеними в жовтневому указі президента Байдена про ШІ, "включаючи розробку керівних принципів щодо перепідпорядкування, оцінки можливостей, управління ризиками, безпеки та захисту, а також нанесення водяних знаків на цифровий контент".
Консорціум стане найбільшою групою з тестування та оцінки і зосередиться на створенні основ для «нової науки про вимірювання в галузі безпеки ШІ», заявили у Міністерство торгівлі США.
Торік найбільші компанії, що займаються розробкою штучного інтелекту, пообіцяли ставити водяні знаки на контент, створений за допомогою ШІ, щоб зробити технологію безпечнішою. Red-teaming вже багато років використовується в кібербезпеці для виявлення нових ризиків, і цей термін походить від симуляцій часів холодної війни в США, де ворога називали "червоною командою".
Байден доручив відомствам встановити стандарти для таких випробувань і врахувати пов'язані з ними хімічні, біологічні, радіологічні, ядерні та кібербезпекові ризики.
У грудні Міністерство торгівлі США заявило, що робить перший крок до написання ключових стандартів і рекомендацій щодо безпечного розгортання та тестування ШІ.
Генеративний ШІ, який може створювати текст, фотографії та відео у відповідь на необмежену кількість запитів, викликав побоювання, що він може зробити деякі професії застарілими, спотворити результати виборів і потенційно перевершити людські можливості та призвести до катастрофічних наслідків.
У той час як адміністрація Байдена вживає заходів безпеки, спроби Конгресу ухвалити законодавство щодо ШІ зайшли в глухий кут, попри численні форуми на високому рівні та законодавчі пропозиції.
