AI の悪用(AI Misuse)
AI の悪用(AI Misuse)は、AI システムが意図した目的以外に、有害・詐欺的・インフラ破壊的な目的に使われる行為の総称。悪意あるコンテンツ生成、フィッシング・社会工学攻撃の自動化、低品質コンテンツの大量生成(AI スロップ)、バグバウンティへのゴミ報告殺到など多岐にわたる。AI 安全性(AI Safety)の研究対象と重複するが、特に「能力の高い AI を悪意ある行為者が転用する」という側面に焦点を当てる概念。
※ 自動生成 stub、要補完
AI の悪用(AI Misuse)は、AI システムが意図した目的以外に、有害・詐欺的・インフラ破壊的な目的に使われる行為の総称。悪意あるコンテンツ生成、フィッシング・社会工学攻撃の自動化、低品質コンテンツの大量生成(AI スロップ)、バグバウンティへのゴミ報告殺到など多岐にわたる。AI 安全性(AI Safety)の研究対象と重複するが、特に「能力の高い AI を悪意ある行為者が転用する」という側面に焦点を当てる概念。
※ 自動生成 stub、要補完