ニュース

Sep 25, 2023

アイダホ州立大学のホワイトハットハッカーが将来の原子炉 AI システムをサイバー攻撃から守る

5 giugno 2023

2023 年 6 月 5 日

将来の原子炉を運転する自動化システムの安全確保を支援するのが、アイダホ州立大学のホワイトハッカーのグループの肩にかかっています。

最近、コンピュータ サイエンスの准教授であるレスリー カービーと、カービーの計算工学およびデータ サイエンス研究所で働く研究者らは、先進的で小型のモジュラー リアクターを自律的に実行する能力をテストされている人工知能システムにデジタル ホールを突く研究に取り組んでいます。

「人工知能システムは、データ内のパターンや傾向を学習することで機能するため、その使用目的に関係なく、データはあらゆる人工知能システムにとって鍵となります」と、カービー氏の研究室で働く博士研究員のペドロ・"ペポ"・メナ氏は説明する。 「人工知能システムがサイバー攻撃に対して脆弱になる最大の理由は、人工知能システムの学習方法にあると考えられます。システムが使用するデータを操作することで、悪意のある者はシステムの出力に影響を与え、ひいてはシステムの決定に影響を与える可能性があります。私たちが個人データを保護しようとしているのと同様に、データ サイエンティストは、これらのシステムが使用する情報が侵害されることを避けるために、その情報を保護するための措置を講じる必要があります。」

アイダホフォールズに拠点を置く研究室で働いているカービーと彼女は、推論攻撃、敵対的再プログラミング、トロイの木馬攻撃という 3 つの角度から AI を攻撃しています。 推論攻撃から始めて、システムをリバース エンジニアリングし、何を扱っているかを把握します。 そこから、データが破損し、システムが別の方法で「思考」し、現実には起こっていないイベントに対するアクションを実行するよう強制される可能性があります。 システムをテストする最後の方法は、トロイの木馬攻撃によるものです。 チームはシステムを、見た目も動作も正しいバージョンとほとんど同じであるが、悲惨な結果につながるコードの変更がいくつかあるバージョンに置き換える予定です。

「人工知能システムは多くの分野で導入されていますが、多くの場合、人工知能システムがもたらす可能性のあるセキュリティリスクを完全には理解していません」とカービー氏は述べた。 「多くの AI システムはブラック ボックス システムです。つまり、出力は生成されますが、その動作方法は明らかにされていません。システムが使用しているデータに少し変更を加えることで、これらのシステムをだまして誤った出力を提供することができます。」

「ISUに来たとき、自分に何が待っているのか全く分かりませんでした」とアイダホ州アイダホフォールズ出身の4年生、カリー・マクラーレンは語った。 「AI が非常に興味深く成長している分野であることは以前から知っていましたが、このプロジェクトの前には、AI に対する潜在的なリスクについて真剣に考えたことも、自律型原子炉の研究をしようと考えたこともありませんでした。このプロジェクトは、技術の進歩にとって非常に啓発的でした」 「データのわずかな変更が AI システムに大きな変化をもたらすことができるのは興味深いことです。最も急速に成長している分野の 1 つに参加できることは興奮していますし、この研究チームの一員であることがとても気に入りました。」 」

アイダホ州のチームは、アイダホ国立研究所やジョージア工科大学の研究者とも協力している。 アイダホ州の研究には、アイダホ国立研究所と米国エネルギー省原子力エネルギー局から約25万ドルの資金提供を受けている。

「このプロジェクトが完了すれば、私たちのチームはこれらのシステムが直面するセキュリティリスクを実証し、特に原子力工学分野でより安全な人工知能システムの導入に役立ついくつかのベストプラクティスを提供できるはずです」とカービー氏は述べた。 「個人レベルでは、このプロジェクトに取り組む学生たちは貴重なスキルを学び、キャリアにプラスの影響を与える業界リーダーとのつながりを築くでしょう。」

「ISU に来たとき、何を勉強したいのかは分かりませんでしたが、STEM 分野で何かをしたいと思っていたのです」とアイダホ フォールズ出身で機械工学を専攻し、コンピューター サイエンスを副専攻する上級生、エリック ヒルは言いました。 。 「私は機械工学を専攻として選択しましたが、カービー博士によるコンピュータ サイエンスのクラスなど、興味をそそられた他のクラスもいくつか受講しました。それが私がこの研究グループに参加した方法であり、このプロジェクトに取り組むことは素晴らしい成果でした。 「コンピューター サイエンスと AI の分野についてさらに学ぶ機会が得られました。この種の研究を続けたいという私の興味が固まり、このプロジェクトに携わることができて光栄であり、感謝しています。」

アイダホ州立大学のコンピューター サイエンス学部の詳細については、isu.edu/cs をご覧ください。

入学希望者は、isu.edu/visit でキャンパス ツアーを予約できます。

理工学部大学ニュース