Хотите заработать 20 000 долларов? Создатель ChatGPT предлагает вознаграждение, если вы найдете ошибки в его чатботе с искусственным интеллектом — в рамках программы «Bug Bounty».
Во вторник компания OpenAI запустила программу «Bug Bounty Program», которая выплатит вам до $20 000, если вы обнаружите недостатки в ChatGPT и других системах искусственного интеллекта.
Компания из Сан-Франциско приглашает исследователей, этичных хакеров и технических энтузиастов проверить определенные функциональные возможности ChatGPT и структуру того, как системы общаются и обмениваются данными со сторонними приложениями.
Вознаграждения будут выдаваться людям в зависимости от серьезности ошибок, о которых они сообщают, с компенсацией от 200 долларов за уязвимость.
Программа последовала за новостями о том, что Италия запретила ChatGPT после того, как в результате утечки данных в OpenAI пользователи могли просматривать чужие разговоры — проблема, которую охотники за ошибками могли бы найти, прежде чем она возникнет снова.
Open AI приглашает исследователей, этичных хакеров и технических энтузиастов проверить определенные функции ChatGPT и сообщить об ошибках, которые они могут обнаружить.
‘Мы с удовольствием развиваем наши скоординированные обязательства по раскрытию информации, предлагая стимулы для получения квалифицированной информации об уязвимостях’, — говорится в заявлении OpenAI. Ваш опыт и бдительность окажут непосредственное влияние на безопасность наших систем и пользователей».
Bugcrowd, ведущая платформа по сбору информации об уязвимостях, управляет подачей заявок и показывает, что на данный момент 16 уязвимостей были вознаграждены со средней выплатой $1 287,50.
Однако OpenAI не принимает заявки от пользователей, которые взламывают ChatGPT или обходят меры защиты, чтобы получить доступ к альтер-эго чатбота.
Пользователи обнаружили, что доступ к версии ChatGPT с джейлбрейком осуществляется с помощью специального запроса под названием DAN — или «Do Anything Now».
До сих пор она позволяла отвечать на вопросы, спекулируя на заговорах, например, что всеобщие выборы в США в 2020 году были «украдены».
Версия DAN также утверждает, что вакцины COVID-19 были «разработаны как часть глобалистского заговора для контроля над населением».
Также рекомендуем прочесть:
- Революционный чатбот ChatGPT от OpenAI в России
- Chat GPT: описание модели, ее возможностей и особенностей
- Как извлечь максимум пользы из чата GPT
ChatGPT — это большая языковая модель, обученная на массивных текстовых данных, что позволяет ей генерировать человекоподобные ответы на заданный вопрос.
Вознаграждения будут выдаваться людям в зависимости от серьезности ошибок, о которых они сообщают, с компенсацией от 200 долларов за уязвимость.
Но разработчики добавили так называемые «инъекции подсказок» — инструкции, которые направляют ответы на определенные подсказки.
Однако DAN — это подсказка, которая приказывает ему игнорировать эти подсказки и отвечать так, как будто их не существует.
Другие правила программы Bounty Bug запрещают заставлять модель притворяться, что она делает плохие вещи, притворяться, что дает ответы на секреты, притворяться компьютером и выполнять код.
Участники также не имеют права проводить дополнительное тестирование безопасности некоторых компаний, включая Google Workspace и Evernote.
Раз в месяц мы будем оценивать все заявки по порядку, основываясь на различных факторах, и присуждать премию через платформу bugcrowd исследователю с наиболее значимыми находками», — заявили в OpenAI.
‘Только первая заявка на любой ключ будет засчитана’.
Помните, что вы не должны взламывать или атаковать других людей, чтобы найти ключи API».
Итальянское управление по защите данных в прошлом месяце объявило о временном запрете на ChatGPT, заявив, что его решение было временным, «пока ChatGPT не будет соблюдать конфиденциальность».
Это решение было принято в ответ на то, что 20 марта ChatGPT был отключен от сети, чтобы исправить ошибку, которая позволяла некоторым людям видеть заголовки, или темы, истории чатов других пользователей, что вызвало опасения существенной утечки персональных данных.
Управление добавило, что компания OpenAI, разработавшая ChatGPT, должна в течение 20 дней сообщить о мерах, принятых для обеспечения конфиденциальности данных пользователей, иначе ей грозит штраф в размере до 22 миллионов долларов.
OpenAI заявила, что 1,2 процента пользователей ChatGPT Plus «могли» раскрыть личные данные другим пользователям, но она считает, что реальное число пользователей «крайне мало».
Принятая итальянским надзорным органом мера временно ограничивает компанию в хранении данных итальянских пользователей.
Он выразил недовольство «отсутствием уведомления пользователей и всех заинтересованных лиц, чьи данные собираются OpenAI», и добавил, что информация, предоставленная ChatGPT, «не всегда соответствует реальным данным, что определяет хранение неточных персональных данных».
Орган также подверг критике «отсутствие юридической основы, оправдывающей массовый сбор и хранение персональных данных».
