AIの未来: DWF Labsアンドレイ・グラチェフのインサイト 自動化の次の波

AIエージェントへの投資の増加は、産業革命以上に変革をもたらす可能性のある広範な自動化の未来を示唆している。技術革新には問題がつきものであり、AIエージェントの開発においても課題が生じるだろう。責任ある利用とAIエージェントの潜在能力を最大限に引き出すためには、継続的な改善が不可欠である。

コンセンサス香港で、BeInCryptoはDWFラボのマネージングパートナー、アンドレイ・グラチェフ氏に、AIエージェントが大量採用を達成するための主要な課題と、広範な利用がどのようなものになるかについてインタビューを行った。

伝統的技術分野とWeb3、AI採用

この時点で、人工知能（AI）の採用が間もなく避けられないことは明らかである。メタ、アマゾン、アルファベット、マイクロソフトを含むテックジャイアントは、2025年にAIとデータセンターに最大32兆ドルを投資する計画をすでに発表している。

米国大統領トランプ氏は、就任初週にAIデータセンター開発に焦点を当てた新しい民間合弁事業「スターゲート」を発表した。この事業は、オープンAI、ソフトバンク、オラクルで構成され、米国全土に最大20の大規模なAIデータセンターを建設する計画である。

初期投資は1兆ドルと見積もられており、拡張計画により2029年までに総額5兆ドルに達する可能性がある。

Web3プロジェクトもAIへの同様の投資を行っている。12月に、暗号資産ベンチャーキャピタルのリーダーであるDWFラボは、自律型AI技術の革新を加速するために2億ドルのAIエージェントファンドを立ち上げた。

今月初め、NEARプロトコルをサポートするNEAR財団も、NEAR技術に基づいて構築された完全に自律的で検証可能なエージェントの開発を拡大するための2億ドルのファンドを発表した。

「歴史が示すように、自動化可能なものはすべて自動化される。そして、確実にいくつかのビジネスや日常生活のプロセスはAIエージェントによって取って代わられるだろう」とグラチェフ氏はBeInCryptoに語った。

しかし、AI開発が加速するにつれて、その悪用の可能性が増大する懸念がある。

AIエージェントの悪用

Web3において、AIエージェントはすでに急速に主流化している。市場分析から自律的な暗号資産取引まで、多様な能力を提供している。

しかし、その統合の増加は重大な課題も提示している。悪意のある行為者によるAIの悪用は、単純なフィッシングキャンペーンから高度なランサムウェア攻撃に至るまでのシナリオを含む大きな懸念である。

2022年後半以降、生成AIの広範な利用可能性はコンテンツ作成を根本的に変え、技術を悪用しようとする悪意のある行為者を引き寄せている。このコンピューティングパワーの民主化は、敵対者の能力を向上させ、洗練されていない脅威行為者にとっての参入障壁を低下させる可能性がある。

Entrustの報告書によれば、AIツールによって促進されたデジタル文書の偽造は、物理的な偽造を上回り、2024年には前年比244%の増加を示している。一方、ディープフェイクはすべての生体認証詐欺の40%を占めている。

2024年の詐欺の状況　出典: Entrust

「すでに詐欺に利用されている。人を偽ってビデオ通話で声を偽るために使われている」とグラチェフ氏は述べた。

この種の悪用の例はすでにニュースの見出しを飾っている。今月初め、香港の多国籍企業の金融担当者が、ディープフェイク技術を使用した詐欺師に2500万ドルの支払いを承認するよう騙された。

その担当者は、同僚と信じていた人物、会社の最高財務責任者を含む人物とのビデオ通話に参加した。最初はためらったが、他の参加者が本物のように見え、声も本物のように聞こえたため、支払いを進めたと報告されている。後に、参加者全員がディープフェイクの捏造であることが判明した。

初期採用から主流受け入れへ

グラチェフ氏は、このような悪意のある利用は避けられないと考えている。同氏は、技術の発展には初期のエラーが伴うことが多く、技術が成熟するにつれてそれらが減少することを指摘した。グラチェフ氏は、ワールドワイドウェブとビットコインの初期段階を例に挙げてその点を証明した。

「インターネットはポルノサイトから始まったことを忘れてはならない。それは麻薬の売人から始まったビットコインのようなものだったが、その後改善された」と同氏は述べた。

いくつかの報告書はグラチェフ氏に賛同している。成人向けエンターテインメント業界がインターネットの初期採用と発展において重要な役割を果たしたことを示唆している。消費者基盤を提供するだけでなく、VCR、ビデオストリーミング、仮想現実、あらゆる形態のコミュニケーションなどの技術を先駆けた。

ポルノはオンボーディングツールとして機能した。成人向けエンターテインメント業界は歴史的に新技術の消費者採用を推進してきた。

特にその観客の要求をうまく満たすとき、その革新の早期採用と応用は、しばしばより広範な主流採用につながる。

「それは楽しみから始まったが、楽しみが多くの人々をオンボードした。その後、この観客に基づいて何かを構築できる」とグラチェフ氏は述べた。

時間が経つにつれて、成人向けエンターテインメントの頻度とアクセスを制限するための安全策も講じられた。それにもかかわらず、これは今日インターネットが提供するいくつかのサービスの一つである。 

ビットコインの旅:ダークネットから変革へ

ビットコインの進化 は、インターネットの初期の利用ケースと密接に似ている。ビットコインの初期採用は、ダークネット市場や麻薬取引、詐欺、 マネーロンダリング などの違法活動と大きく関連していた。その匿名性と世界的な資金移動の容易さが犯罪者にとって魅力的だった。

犯罪活動での使用が続いているにもかかわらず、ビットコインは多くの合法的な用途を見つけている。暗号資産を支える ブロックチェーン技術 は、現実世界の問題に対する解決策を提供し、従来の金融システムを変革している。

暗号資産とブロックチェーンの応用はまだ非常に新しい産業であるが、進化し続けるだろう。ガルチェフによれば、AI技術の段階的な導入でも同じことが起こるという。同氏にとって、間違いは学び、適応するために歓迎されるべきである。 

“詐欺はまず起こり、その後で人々がそれを防ぐ方法を考え始めることを常に忘れてはならない。もちろんそれは起こるが、それは通常のプロセスであり、学習曲線である”とグラチェフ氏は述べた。

しかし、これらの状況が将来起こることを知ることは、誰が責任を負うべきかについての疑問も提起する。

責任問題

エージェントの行動によって損害が発生した場合の責任を決定することは、複雑な法的および倫理的問題である。AIにどのように責任を負わせるかという問題が必然的に浮上する。

AIシステムの複雑さは、損害に対する責任を決定する際の課題を生む。その「ブラックボックス」性、予測不可能な行動、継続的な学習能力は、何かがうまくいかないときに誰が責任を負うべきかについての典型的な考えを適用するのを難しくする。

さらに、AIの開発と展開に複数の関係者が関与することは、責任評価を複雑にし、AIの失敗の責任を決定するのを難しくする。

責任は、設計や製造上の欠陥に対する製造者、コードの問題に対するソフトウェア開発者、指示に従わない、更新をインストールしない、セキュリティを維持しないユーザーにある可能性がある。

“全体的なものはあまりにも新しいと思うし、そこから学ぶことができるべきだと思う。必要であれば、いくつかのAIエージェントを停止できるべきだ。しかし、私の観点から見ると、悪意がなければ、誰も責任を負わない。なぜなら、それは本当に新しいものだからだ”とグラチェフ氏はBeInCryptoに語った。 

しかし、同氏によれば、これらの状況は継続的な革新に影響を与えないように慎重に管理する必要がある。

“この起業家を非難すれば、革新を殺すことになる。人々が恐れるからだ。しかし、それが悪い方法で機能するなら、最終的には機能するかもしれない。停止し、学び、改善し、再学習する方法が必要だ”とグラチェフ氏は付け加えた。

しかし、特に極端なシナリオでは、その微妙な境界線は非常に薄いままである。

信頼問題解決:責任あるAI採用

人工知能の未来を議論する際の一般的な恐怖は、AIエージェントが人間よりも強力になる状況に関するものである。

“それについての映画はたくさんある。警察や政府の管理、あるいは戦争の中の軍隊について話すなら、もちろん自動化は大きな恐怖だ。ある程度まで自動化されると、人間を傷つけることができる”とグラチェフ氏は述べた。

このようなシナリオが起こり得るかどうか尋ねられたとき、グラチェフ氏は理論的には可能だと述べた。それにもかかわらず、同氏は将来何が起こるかを知ることはできないと認めた。 

しかし、このような状況は、人間と人工知能の間の根本的な信頼問題を象徴している。グラチェフ氏は、この問題に対処する最良の方法は、AIが実際に役立つユースケースに人間をさらすことだと言う。

“AIは人々にとって信じるのが難しいかもしれない。だからこそ、何か簡単なことから始めるべきだ。AIエージェントが信頼できると説明されても、信頼は築かれない。人々はそれを使うことに慣れるべきだ。例えば、暗号資産について話すなら、Pump.funでミームを立ち上げることができるが、なぜ音声メッセージで立ち上げないのか？AIエージェントを使って、‘これとそれを立ち上げてください’と言う音声メッセージを送るだけで、それが立ち上がる。そして次のステップは、エージェントにもっと重要な決定を信頼することだ”と同氏は述べた。 

最終的に、AIの広範な採用への道のりは、驚くべき進歩と予期しない課題によって間違いなく特徴付けられるだろう。 

この発展途上の分野での革新と責任ある実施のバランスを取ることは、AIが人類全体に利益をもたらす未来を形作るために重要である。