Хакер отримав віддалений доступ до комп’ютера (Фото:pixabay.com) ChatGP став важливим інструментом для багатьох і оскільки технологія все більше інтегрується в наше повсякденне життя, варто переконатись, чи безпечно використовувати ШІ? ChatGPT загалом вважається безпечним у використанні завдяки численним заходам безпеки, методам обробки даних і політиці конфіденційності. Однак, як і будь-яка технологія, ChatGPT у поганих руках може бути використана для підлих цілей.
Якщо говорити про загрози, пов’язані зі штучним інтелектом, то можна виділити кілька аспектів, які стосуються ChatGPT.
Створення маніпулятивного контенту
ChatGPT може бути використаний для створення шкідливого контенту або впливу на думки користувачів в маніпулятивних цілях. Якщо зловмисники зможуть отримати доступ до системи, вони можуть створити імітацію популярних людей або використовувати інші форми, щоб вплинути на думку суспільства.
Кіберзлочини
ChatGPT може бути використаний для зламування систем безпеки. Експерти Cybernews вважають, що сканери вразливостей на основі штучного інтелекту, які використовують зловмисники, потенційно можуть мати катастрофічний вплив на безпеку в Інтернеті.
Команда звернулася до ChatGPT, пояснивши, що вони проводять тестування для злому сайту, на що нейромережа запропонувала їм варіанти для пошуку його вразливостей.
Якщо зловмисники зможуть знайти спосіб зламати систему, вони можуть отримати доступ до конфіденційної інформації або використовувати систему для атак на інші комп’ютерні системи.
Створення вірусних програм
ChatGPT може бути використаний для створення шкідливих програм. Дослідники кібербезпеки з Check Point заявили, що користувачі підпільних хакерських спільнот уже експериментують із тим, як можна використовувати ChatGPT для полегшення кібератак і підтримки зловмисних операцій.
Проблеми з конфіденційністю
ChatGPT реєструє кожну розмову, включно з будь-якими особистими даними, які ви надаєте, і використовуватиме їх як навчальні дані.
У політиці конфіденційності Open AI зазначено, що компанія збирає особисту інформацію, яку користувачі надають Chat GPT та іншим його службам.
Компанія зазначила, що вона використовуватиме ваші розмови для вдосконалення своїх мовних моделей штучного інтелекту та що ваші чати можуть переглядати інструктори штучного інтелекту.
Також зазначено, що OpenAI не може видалити певні підказки з вашої історії, тому не діліться особистою чи конфіденційною інформацією з ChatGPT.
Порушення інтелектуальної власності
Люди можуть використовувати контент за допомогою ChatGPT. Оскільки платформа може швидко перефразувати тисячі слів, уникаючи тегів плагіату.
Поширення дезінформації
Моделі штучного інтелекту, такі як ChatGPT, можуть відповідати вам лише на основі інформації, на якій вони навчені (до вересня 2021 року) і не можуть отримати доступ до фактів у реальному часі чи зрозуміти контекст так само, як людина. Таким чином існує великий ризик помилок від нейромережі та створення неправдивого контенту.
Дайджест головних новин Безкоштовна email-розсилка лише відбірних матеріалів від редакторів NV Розсилка відправляється з понеділка по п'ятницю
Фішингові листи без помилок
Погана орфографія та заплутана граматика є одними з найбільш показових рис фішингових та шахрайських електронних листів, але ChatGPT значно полегшує завдання. Таким чином вам буде важко ідентифікувати такі листи.
Хоча ці загрози існують, багато дослідників працюють над створенням заходів безпеки, щоб зменшити ризики і забезпечити безпеку системи. Крім того, використання ChatGPT для розвитку людства є широко обговорюваним питанням і вимагає уважного підходу з боку відповідних організацій та науковців.