Report 6230

人工知能が実際に機能するウイルスを作成できる世界への準備は、まだ整っていません。しかし、私たちは今まさにそのような世界に生きているので、準備を整える必要があります。

今月発表された注目すべき論文で、スタンフォード大学の科学者たちは、コンピューターが新しいウイルスを設計し、それを研究室で作成できることを示しました。一体どうやってそれが可能なのでしょうか？英語のパターンを学習することで書くことを学習したChatGPTを思い出してみてください。スタンフォード大学の研究チームは、生命の基本構成要素であるバクテリオファージ（細菌には感染するがヒトには感染しないウイルス）のDNAを用いて「ゲノム言語モデル」を学習させ、コンピューターが遺伝子文法を十分に学習して新しい遺伝子を記述できるかどうかを検証しました。

結果は成功しました。AIは新たなウイルスゲノムを作成し、研究者たちはそれを無害な大腸菌株で構築・試験しました。多くのウイルスが機能しました。中には天然のウイルスよりも強力なものもあり、天然のバクテリオファージに対して耐性を発達させた細菌を死滅させることに成功したものもありました。

科学者たちは適切な注意を払って研究を進めました。彼らは研究対象をヒトに感染しないウイルスに限定し、厳格な安全規則の下で実験を行いました。しかし、本質的な事実を無視することはできません。コンピューターは今や、生存可能な、さらには強力なウイルスさえも発明できるようになったのです。

スタンフォード大学の論文はまだ査読を受けていないプレプリントですが、この進歩は大きな可能性を示唆しています。新しいウイルスを作り出すのと同じツールが、いつか病気の治療にも活用されるかもしれません。ウイルスは、世界の保健における大きな危機の一つである抗生物質耐性菌と戦うために設計されるかもしれません。AIが設計した多様なウイルスのカクテルは、既存の薬が効かない感染症を治療できるかもしれません。

しかし、リスクを甘く見ることはできません。スタンフォード大学のチームは安全策をとりましたが、他の企業がヒト病原体に関するオープンデータを利用して独自のモデルを構築することを阻止できるでしょうか？もしそうなれば、同じ技術がヒトに致死的なウイルスを作るのにも容易に利用され、実験室での画期的な進歩が世界的な安全保障上の脅威に変わる可能性があります。

何十年もの間、米国のバイオセキュリティ戦略は予防を基盤としてきました。多くのDNA合成企業は、顧客が既知の病原体のゲノムを印刷していないことを確認するために、注文をスクリーニングしています。研究所は安全プロトコルに従っています。輸出規制は、機密技術の拡散を遅らせます。これらのガードレールは依然として重要です。しかし、AIイノベーションのスピードとパワーには追いつくことができません。スクリーニングシステムは、これまで存在したことのないウイルスを検出することはできません。そして、アルゴリズムがオンラインで公開されれば、いかなる国境もその拡散を阻止することはできません。

レジリエンスこそが唯一の現実的な解決策です。AIが生物兵器開発のタイムラインを崩壊させれば、米国はそれへの対応のタイムラインを短縮せざるを得なくなります。 AIが生み出す新たな脅威を阻止することはできない。真の課題は、それらの脅威に先んじることである。

まず、米国は新たな脅威の出現に迅速に対応するために必要な計算ツールを構築する必要がある。ウイルスを設計するのと同じモデルを訓練すれば、抗体、抗ウイルス薬、ワクチンを迅速に設計できます。しかし、これらのモデルには、免疫システムと治療薬が病原体とどのように相互作用するか、どの設計が実際には失敗するのか、そしてどのような製造上のボトルネックが存在するのかといったデータが必要です。こうした情報の多くは、民間の研究所にサイロ化され、独自のデータセットに閉じ込められているか、あるいは全く存在しない状態です。連邦政府は、こうした高品質なデータセットの構築を優先事項とすべきです。

第二に、コンピューター設計を実際の医薬品へと転換するための物理的な能力が必要です。現在、有望な設計から実際に機能する医薬品へと転換するには何年もかかる。必要なのは、数千もの候補薬を並行して検証し、最良の薬を迅速に大量生産できる待機施設です。民間部門は、いつ起こるかわからない緊急事態に備えて、そのような能力を構築するための費用を正当化できません。政府が介入し、長期契約を締結することで主導権を握り、次の危機が起こるまで工場を稼働させ続ける必要があります。

第三に、規制を適応させる必要があります。食品医薬品局（FDA）の緊急使用に関する手続きは、コンピューターがリアルタイムで設計する治療法を想定して構築されたものではありません。AIが生成した対策と臨床試験の暫定的な展開を可能にする、新たな迅速承認制度と、厳格な監視および安全対策が必要です。そして、AIが生成したアウトブレイクをシミュレートした定期的な国家演習を実施し、危機に先立ってシステム全体のストレステストを実施する必要があります。

専門家たちは長年、生成生物学によって設計と災害のタイムラインが崩壊する可能性があると警告してきた。そして今、その瞬間が到来した。スタンフォード大学の実験で作られたウイルスは人間には無害だった。しかし、次に現れるウイルスはそうではないかもしれない。

レポート 6230

AIが機能するウイルスを作り出した。アメリカはそれに備えていない。