В нейросети Nvidia NeMo Framework найдена серьезная уязвимость

Компания имеет собственную нейросеть под названием NeMo Framework, которая является основой для генеративных систем искусственного интеллекта.

На днях стало известно, что в NeMo Framework имеется серьезная уязвимость. Исследователи безопасности из компании Robust Intelligence из Сан-Франциско сообщили, что установленные в системе нейросети ограничения можно обойти и получить доступ к персональным данным пользователей. Учитывая масштаб использования продуктов Nvidia, проблема более чем серьёзная.

По словам Ярона Сингера, профессора информатики Гарвардского университета и исполнительного директора Robust Intelligence, у ИИ «еще много подводных камней». Он отметил, что проблему уязвимости искусственного интеллекта необходимо учитывать.