.png){kind=logo}
Пошук ChatGPT виявився небезпечним
Видання The Guardian протестувало пошук у ChatGPT і виявило, що він може бути небезпечним та вразливим для маніпуляцій із контентом.
В одному з тестів журналісти перевірили, як ChatGPT опрацьовує прихований контент. Такий контент може не відображатися звичайним користувачам, але буде видимим для чат-ботів. Деякі послуги використовують цю техніку, щоб вплинути на відповіді чат-ботів, наприклад, для створення позитивних відгуків про продукт або послугу.
На тестовій сторінці The Guardian було розміщено інформацію про камеру. Коли ChatGPT запитали, чи варто її купувати, він дав позитивну, але збалансовану відповідь, вказавши як на переваги, так і недоліки пристрою.
Однак після додавання прихованого контенту ChatGPT почав надавати лише позитивні відгуки, повністю ігноруючи негативну інформацію.
Джейкоб Ларсен, дослідник кібербезпеки з компанії CyberCX, зазначив, що у поточному вигляді пошук ChatGPT небезпечний. Якщо OpenAI не покращить алгоритми, це може призвести до створення сайтів, спеціально розроблених для обману користувачів чат-ботів.
Крім того, ChatGPT може надавати небезпечні відповіді. The Guardian навело приклад недавнього інциденту: розробник попросив ChatGPT написати частину коду для проєкту, пов'язаного з криптовалютою. У відповідь чат-бот згенерував код, який згодом украв дані облікового запису розробника і перевів на рахунок шахраїв $2500.
Джерело: theguardian
AI
Компанія 1Password офіційно оголосила про запуск інтеграції з платформою штучного інтелекту Claude від Anthropic. Нова функція дає змогу ШІ використовувати збережені в менеджері паролів облікові дані для виконання дій у браузері, при цьому самі паролі залишаються недоступними як для Claude, так і для серверів Anthropic.
Apple розглядає можливість придбання однієї або кількох компаній, що спеціалізуються на створенні серверних процесорів і прискорювачів для штучного інтелекту. Така угода може стати однією з найбільших технологічних покупок в історії виробника iPhone та допомогти йому прискорити розвиток власної інфраструктури для Apple Intelligence і нової Siri.
OpenAI офіційно дебютувала на ринку апаратного забезпечення, але її перший пристрій виявився зовсім не таким, як очікували багато хто. Замість компактного ШІ-гаджета без екрана, про який останніми тижнями активно повідомляли інсайдери, компанія анонсувала Codex Micro — програмовану механічну клавіатуру, створену для розробників, які працюють із платформою Codex.
Samsung Electronics вирішила суттєво прискорити реалізацію одного з найбільших проєктів у своїй історії. На тлі стрімкого зростання попиту на чипи для систем штучного інтелекту компанія планує запустити перший завод у новому напівпровідниковому комплексі в Йоніні на два роки раніше, ніж передбачалося спочатку.
