バイデン米大統領は現地時間10月30日、ホワイトハウスの生成型人工知能に関する初の規制規定を打ち出した「マイルストーン的な」行政命令に署名した。

行政命令に基づき、米国の複数の政府機関は、人工知能を用いて生物や核兵器などの脅威を設計し、「透かし」などのコンテンツ検証の最適な方法を求め、先進的なサイバーセキュリティ計画を立案するための基準を制定する必要がある。

具体的には、人工知能製品のテストを要求し、テスト結果を連邦政府に報告するよう命じた。世界中の人工知能人材を米国に引き付けることも提案している。複数のメディアによると、この行政命令はクラウドサービスを運営する会社に外国人顧客の状況を政府に通報するよう求めている。

「行政命令に規範が設定されている」

ホワイトハウスは声明の中で、この行政命令は米国が人工知能の約束を履行し、リスクを管理する上で率先的な役割を果たすことを確保することを目的としていると述べた。バイデン政府の責任ある革新総合戦略の一環として、大統領の前に取った行動の基礎の上に構築され、その中には15社のリーディングカンパニーが人工知能の安全、信頼性、信頼性のある発展を推進することを自発的に約束した仕事が含まれている。

米メディアPoliticoは、この命令は法的効力を持たず、ホワイトハウスのこれまでの人工知能の監督管理作業も実行力の欠如で批判されてきたが、新たな規定は連邦機関の購買力と実行ツールを通じて米国市場に影響力を与えると報じた。例えば、行政命令は特に、連邦貿易委員会に人工知能業界の反競争行為と消費者傷害問題に重点を置くよう指示し、同機構のレナ・ハン会長はこの使命を公然と支持している。

「これは重要な第一歩であり、重要なのは、行政命令に規範が設定されていることです」とジョージタウン大学セキュリティ・新興技術センター上級研究アナリストのローレン・カーン（Lauren Kahn）氏はメディアのインタビューに答えた。

ホワイトハウスは10以上の政府機関に幅広い内容の指令を出す。来年の大統領選挙を前に、ほとんどの機関は行政命令の要求を満たすために90日から240日かかるだろう。命令はまた、ホワイトハウスの政策担当副幕僚長が議長を務め、各主要機関の代表からなるホワイトハウス人工知能委員会を任命し、連邦政府の関連活動を調整する。

バイデン政府高官はブリーフィングで、新規定は主に将来の人工知能モデルに適用されると記者団に伝えた。「既存の公開モデルはリコールしない」。

ニューヨーク・タイムズ紙は、この命令は最先端の未来システムを狙っているが、ウクライナ、ガザ、または大統領選に関する虚偽の情報を伝えるために使用される可能性がある既存のチャットロボットの直接的な脅威を大きく解決していないと報じた。また、この命令は米国企業にのみ影響を与えますが、ソフトウェア開発は世界各地で発生しており、米国はこれらの規定を実行する際に外交的な挑戦に直面するため、米政府は盟友やライバルに類似の規則を制定するよう奨励しようとしています。

政府とセキュリティテスト結果を共有する必要があります

行政命令は8つの行動を指導する：人工知能の安全のために新しい基準を制定し、プライバシーを保護し、公平と公民の権利を促進し、消費者、患者と学生の権利を維持し、労働者を支持し、革新と競争を促進し、米国の人工知能技術における指導的地位を高め、そして政府の責任を確保し、かつ効果的にこの技術を使用することを確保する。

最初のセクションは、「人工知能セキュリティの新基準」です。国防生産法によると、このコマンドは、国家安全、国家経済安全または国家公共健康安全に重大なリスクを構成する基礎モデルを開発する企業に対して、モデルを訓練する際に連邦政府に通知し、すべてのレッドチーム安全テストの結果を連邦政府と共有し、人工知能システムの安全と信頼性を確保するための基準、ツール、テスト手段を開発する必要があります。

米国国家基準技術研究所（The National Institute of Standards and Technology）は、広範なレッドチームのテストに厳しい基準を制定する。国土安全保障省はこれらの基準を重要インフラ部門に適用し、人工知能安全委員会を設立する。エネルギー省と国土安全保障省はまた、重要なインフラストラクチャに対する人工知能システムの脅威、化学、生物、放射性、核、ネットワークにおける安全リスクを解決する。

命令は、強力な生合成スクリーニングの新基準を制定することによって、人工知能を用いて危険な生物材料を設計するリスクを防止することを要求している。

コマンドはまた、人工知能が生成したコンテンツを検出し、公式コンテンツを検証するための基準と最適な方法を確立することにより、米国人を人工知能が駆動する詐欺や詐欺から保護することを要求している。商務省は、人工知能が生成したコンテンツを明示的にマークするためのコンテンツ認証と透かしガイドラインを制定する。

命令は、人工知能と安全面でのさらなる行動を指導するための国家安全保障覚書の作成を要求し、国家安全保障委員会とホワイトハウス弁公庁主任が責任を負う。この文書は、米国の軍事・情報界がその任務において安全で道徳的かつ効果的に人工知能を使用することを確保し、相手の人工知能の軍事使用に反撃するための行動をとるよう指導するだろう。

POLITICOとニューヨーク・タイムズが少し前に発表した草案によると、強力な人工知能モデルが外国のライバルの手に渡るのを防ぐため、この命令は強力な人工知能モデルを開発した会社に商務省に定期的な報告を提供し、アマゾンやマイクロソフトなどの大手クラウドサービス業者に外国人顧客がサーバーを借りて大モデルを訓練する際に政府に通知するよう要求した。

プライバシー、公平、健康、教育面

第2部は「米国人のプライバシー保護」です。第1歩は、政府が個人情報をどれだけ購入したかを管理・予算事務所が明らかにすることに関連する。行政命令はまた、データブローカーから購入した情報を収集、使用、共有、削除する際のプライバシーリスクを軽減するためのガイドラインを作成する。

行政命令は、収集されたデータを保護するために連邦機関が高度なプライバシー強化技術を採用することを奨励し、連邦機関が使用するプライバシー技術の開発、推進、配置に専念する新しい研究ネットワークを支援することを奨励している。

この命令はまた、人工知能の職場での使用に関連し、「不当な労働者の監視を奨励するために人工知能技術を配置すべきではない」と指摘した。

第三部は「公平と公民権の促進」である。命令は、家主、連邦福祉計画、連邦請負業者に明確な指導を提供し、差別を激化させるために人工知能アルゴリズムが使用されないようにする必要があります。量刑、仮釈放と執行猶予、審前釈放と拘留、リスク評価、監視、犯罪予測と予測性警務及び法証分析における人工知能を用いたベストプラクティスを制定することにより、刑事司法システム全体の公平性を確保する。

第4部は「消費者、患者、学生を支援する」。衛生・公衆サービス部は、人工知能の危害や非安全な医療保健実践に関する報告を受け、救済するための行動をとるための安全計画を策定する。コマンドは、教育従事者が人工知能サポートの教育ツール（例えば、学校で個性的な指導を行う）を配置することをサポートし、人工知能が教育を変える潜在力を形作ることを要求している。

第5部は「労働者を支援する」。原則と最適な方法を制定し、労働者に指導を提供し、雇用主の報酬が低すぎ、不公平に仕事の申請を評価したり、労働力に影響を与える組織能力を防止する。

人工知能の人材を維持するために便利を提供する

第6部は「イノベーションと競争の促進」です。ホワイトハウスによると、米国は人工知能の革新においてすでにリードしており、昨年米国で初めて資金を調達した人工知能ベンチャー企業の数は、下位7カ国の合計を上回った。

命令は、国家人工知能研究資源試験を通じて米国各地の人工知能研究を促進し、医療保健や気候変動などの重要分野の人工知能研究への助成を拡大することを提案した。小規模開発者と企業家に技術援助と資源を提供することで、小規模企業の商業化突破を支援し、連邦貿易委員会がその権利を行使し、公平、開放、競争を促進する人工知能生態系を奨励する。現代化とビザ基準、面接、審査の簡素化を通じて、重要な分野で専門知識を持つハイテク移民と非移民の米国での学習、居留、仕事の能力を拡大する。

第7部は「海外での米国のリーダーシップ向上」。命令は、米国務省が商務省と協力し、強力な国際的枠組みを構築することを指導し、国際パートナーと標準組織とともに重要な人工知能基準の開発と実施を加速させ、人工知能の国外での安全、責任、権利の維持のための発展と配置を促進することを提案した。

第8部は「政府の責任を確保し、人工知能を効果的に使用する」ことである。命令の要件は、権利と安全を保護する明確な基準を制定し、人工知能の調達を改善し、人工知能の配置を強化することを含む、各機関のための人工知能発行ガイドラインである、より迅速で効率的な契約により、組織が指定した人工知能製品とサービスをより迅速に、より安価に、より効果的に取得できるようになります。

今週ロンドンで開かれる人工知能セキュリティサミットには、カマラ・ハリス米副大統領が出席するという。

【SS速評】AIGCへの資本注入が進むにつれ、AIGCはかつてないほど急速に発展した。実際、その開始時間は遅くはありませんが、これまでは特に重視されておらず、世界経済にはまだ他の駆動力が働いているためです。しかし、古い科学技術が社会経済の発展の中で成熟した応用を得るにつれて、その推進力は次第に退勢し始めた。この時には新しい推進力がフロントに上がる必要があります。

これがAIGCの現在の世界経済の位置です。天量資本注入を獲得したことで、AIGCの開発に多くの人的・物的力が加わり、AIGCの発展速度を大きく後押しした。そしてある段階になると、AIGCはSF映画の中のシーンを見せているようだ。これはAIGCと人類の潜在的な矛盾も徐々に現れているようだ。

人類の群れは全体として、もちろん自分の利益を優先しなければならない。現在、地球の支配的な群れとして、新たな脅威的な種が出現する可能性があれば、事前に対応する準備が必要であることは確かだ。

SF映画は数十年前から人類に予防接種をしていたので、この問題ではほとんど大きな内部論争は起こらなかった。何しろこれは人類とAIGCの間に起こりうる潜在的な矛盾だ。

AIGCは人類に非常に便利なサービスを提供することができるが、人類はそれによってAIGCに拘束されることはできない。だから、今から始めて、起こりうるすべての未来の危機を予防して、任重くて道が遠い！