OpenAIは、 プログラム 「法律で定められた範囲内で」AIシステムが従うべきルールを決定するための民主的なプロセスを確立するための実験に資金を提供するため、10万ドルの助成金を10件に授与する。
この助成金プログラムの開始は、OpenAIが原子力を管理するのと同様のAIの国際規制機関の設立を求めたことを受けて行われた。 OpenAIの共同創設者であるサム・アルトマン氏、グレッグ・ブロックマン氏、イリヤ・サツケヴァー氏は、そのような団体の提案の中で、AIのイノベーションのペースがあまりにも速いため、既存の当局がこの技術を適切に抑制することは期待できないと主張しており、これが今日の発表でも同様の意見だキャプチャも同様です。
具体的には、OpenAIは、AIのガードレールに関する疑問に答えることができる「民主的プロセス」の概念実証を開発するために個人、チーム、組織に資金を提供しようとしていると述べている。 同社はこれらの実験から学び、今後のよりグローバルな、そしてより野心的なプロセスの基礎として利用したいと考えている、と同社は述べている。
「これらの最初の実験は（少なくとも現時点では）決定を拘束することを意図したものではありませんが、決定に関連する質問を調査し、将来的には決定に直接情報を提供できる新しい民主的ツールを構築することを期待しています」と同社はブログで書いている今日公開された投稿。 「この助成金は、…超知性を監視するための民主的なプロセスを確立するための一歩を表します。」
OpenAI の非営利組織から提供された助成金を利用して、OpenAI はプラトン主義の民主主義の理想を反映するプロセスを確立したいと考えています。つまり、「広範に代表する」人々のグループが意見を交換し、「熟慮した」議論に参加し、最終的には透明性のある意見交換を通じて結果を決定するというものです。意思決定のプロセス。 OpenAIによれば、理想的には、このプロセスは「公人に関してグループ間で意見が異なる場合、AIシステムはどのような状況で公人を非難または批判すべきか?」といった質問に答えるのに役立つという。 「論争のある意見は AI 出力でどのように表現されるべきですか?」
「この助成金の主な目的は、プロセスのイノベーションを促進することです。AI の動作を管理するには改善された民主的手法が必要です」と OpenAI は書いています。 「私たちは、AI がどのように動作するかについての決定は、公共の利益を反映した多様な視点によって形成されるべきだと信じています。」
OpenAIは発表文の中で、助成プログラムがその商業的利益から完全に切り離されていることをほのめかしている。 しかし、EUで提案されているAI規制に対するOpenAI Altman氏の最近の批判を考えると、これは少し飲み込むのが難しい薬だ。 アルトマンに続き、タイミングも顕著に見える。 外観 先週、米国上院議会委員会の前で同氏は、今日存在するOpenAIテクノロジーの影響を最小限に抑える、非常に特殊なAI規制を提唱した。
それでも、たとえプログラムが最終的には利己的なものになったとしても、AI 政策決定の方向性としては興味深い (たとえ明らかな点で EU の取り組みと重複しているとはいえ)。 「プロセス」が出現し、OpenAI が最終的にどの応募者を選択するかが決まります。
人々は今日から OpenAI 助成プログラムに応募できます。締め切りは 6 月 24 日午後 9 時です。応募期間が終了すると、OpenAI は合格者 10 名を選出します。 受信者は、少なくとも 500 人の参加者が参加するコンセプトを発表し、10 月 20 日までにその結果に関する公開レポートを公開し、その作品の背後にあるコードをオープンソース化する必要があります。