Розробники радикально оновили політику використання ШІ
Anthropic оновила політику використання своїх ШІ-моделей Claude. Новий документ уточнює заборони на використання алгоритму для зброї, стеження та дезінформації, а також уперше забороняє тривале знущання над самими алгоритмами.
Про це повідомляє РБК-Україна з посиланням на Anthropic.
Захист ШІ від знущань користувачів
Розробники вводять заборону на тривалу та безпідставну жорстоку або образливу поведінку щодо своїх моделей.
Це правило застосовуватимуть лише у крайніх випадках, коли користувачі систематично виявляють агресію без жодної дослідницької чи практичної мети.
Звичайні вияви роздратування, суперечки, тестування моделей або дослідження під це обмеження не підпадають. У разі систематичного хамства Claude матиме право самостійно завершувати розмову з користувачем на платформах Claude.ai та Claude Code.
Читайте більше: Сканує ШІ-контент OpenAI й Apple: Google відкрила доступ до SynthID для всіх
Табу на дезінформацію та маніпуляції
Розробники об'єднали правила щодо боротьби з обманом у новий розділ, який забороняє участь у дезінформаційних кампаніях або штучній активності.
Приводом стали випадки використання Claude державними ЗМІ, пропагандистськими структурами та приватними фірмами для керування мережами ботів і фейковими новинами на сайтах.
Заборона стосується:
- приховування справжніх авторів повідомлень;
- накрутки контенту через бот-акаунти;
- створення інфраструктури для інформаційних операцій.
Також оновлено розділ про вибори. Claude заборонено використовувати для введення виборців в оману, поширення неправдивої інформації про кандидатів або зриву голосування.
При цьому компанія зняла суцільну заборону на персоналізований таргетинг для легітимних громадських ініціатив, наприклад, перекладу інструкцій для виборців іншими мовами.
Більше цікавого: Біотехнології переведуть у цифру: що відомо про унікальний проєкт Google, Meta та NVIDIA
Обмеження у сфері розробки зброї та стеження
Політика Anthropic чітко зазначає, що заборона на розробку зброї поширюється на програмне забезпечення та компоненти, які забезпечують її роботу.
Також заборонено використовувати ШІ для оснащення зброєю дронів та інших автономних транспортних засобів.
У сфері стеження та кримінального правосуддя введено такі правила:
- заборонено стеження за людьми без їхньої згоди в реальному часі або через аналіз зібраних даних;
- ШІ не можна використовувати для винесення рішень про розслідування, затримання чи висунення звинувачень;
- заборонено розробку та вдосконалення інструментів для стеження.
Водночас дозволеними залишаються моніторинг шахрайства за згодою користувачів, модерація контенту, журналістика та юридичні дослідження.
Не пропустіть: Маск прокачав Grok: бот отримав доступ до Midjourney, Claude і Suno
Вимоги до рішень із високим ризиком
Якщо ШІ використовують у сферах охорони здоров'я, фінансів чи юриспруденції, обов'язковою умовою залишається наявність кваліфікованого фахівця, який може перевірити та змінити рекомендації системи. Також користувача мають повідомити про залучення ШІ.
У разі підключення моделей до фізичного обладнання, яке здатне завдати травм, оператор повинен мати можливість спостерігати за технікою та зупинити її в разі потреби.
У разі втрати зв'язку з ШІ обладнання має автоматично переходити у безпечний режим.
Оновлена політика набере чинності 12 листопада 2026 року.
Ще більше цікавого:
- Дешевша на 75% і швидша за GPT-6 Luna: Anthropic представила Claude Haiku 5.5
- Планує меню і рахує бюджет: OpenAI випустила GPT-6 з інтерактивними кнопками