OpenAI оголошує винагороду до 20 тис. доларів тим, хто повідомить про помилку ChatGPT

OpenAI офіційно запускає програму винагороди за виявлення помилок в продуктах і послугах найменування, включаючи API, Playground, Codex і ChatGPT . Найменування має на меті спонукати користувачів знаходити і розкривати проблеми безпеки і уразливості, пропонуючи натомість від скромних 200 до значних 20 тис.доларів. Цю новину повідомив The Verge 12 квітня 2023 року, посилаючись на Bugcrowd.

Дана кампанія розгортається під керівництвом Bugcrowd, платформи для краудсорсингового тестування кібербезпеки. Програма охоплює всі продукти та послуги OpenAI, хоча особливу увагу заслуговує ChatGPT, що працює на основі великомасштабної нейронної мережі, навченої на мільярдах слів з Інтернету. ChatGPT користується суперечливою репутацією-з одного боку ШІ хвалять, з іншого регулярно скаржаться на потенційні ризики та етичні наслідки.

Існуюча програма тестування Bug Bounty зосереджена на пошуку технічних недоліків та вразливостей, які можуть поставити під загрозу безпеку та конфіденційність продуктів та послуг OpenAI. Однак помилки можуть мати інший характер. Представники OpenAI відзначають, що ряд спостережуваних «проблем безпеки моделі» не підлягають винагороді в рамках програми. Причиною тому служить інший підхід до їх виправлення, а саме, необхідність серйозних досліджень і широкого підходу до їх вирішення.

Крім іншого, компанія відзначає, що дана програма винагороди – це частина зобов'язання по створенню безпечних і надійних систем штучного інтелекту, які можуть принести користь людству. Організація також заявляє, що вітає відгуки та співпрацю з боку ширшої спільноти ШІ та громадськості, щоб допомогти їй досягти цієї мети.

Раніше «WorldBank.org.ua» розповів  про те, що ChatGPT та інші генеративні сервіси ШІ піддатися перевірці безпеки в Китаї. А також наша редакція повідомила , що Alibaba оголошує Tongyi Qianwen – власний інструмент штучного інтелекту для конкуренції з ChatGPT.