У нейромережі Nvidia NeMo Framework знайдено серйозну вразливість

Компанія має власну нейромережу під назвою NeMo Framework, яка є основою для генеративних систем штучного інтелекту.

Днями стало відомо, що NeMo Framework має серйозну вразливість. Дослідники безпеки з компанії Robust Intelligence із Сан-Франциско повідомили, що встановлені в системі нейромережі обмеження можна обійти та отримати доступ до персональних даних користувачів. Враховуючи масштаб використання продуктів Nvidia, проблема більш ніж серйозна.

За словами Ярона Сінгера, професора інформатики Гарвардського університету та виконавчого директора Robust Intelligence, у ШІ «ще багато підводних каменів». Він зазначив, що на проблему вразливості штучного інтелекту необхідно враховувати.