Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6291

関連インシデント

インシデント 12451 Report
Norwegian Student Reportedly Used AI-Generated Deepfake Videos in Spanish Coursework at University of South-Eastern Norway

Loading...
学生が偽のビデオで試験官を騙そうとした:— 特別で不穏な
khrono.no · 2024

南東ノルウェー大学の1年間のスペイン語プログラムでは、学生は特定のトピックについて、スペイン語で話す自主制作のビデオを提出することが求められます。

--- 時折、ビデオがフリーズするなどの技術的な問題が発生することがあります。しかし、今回のケースは特に目立ったと、科目責任者のハンス・ヤコブ・オールディーク氏は言います。

このノルウェー人学生はスペイン語の発音は完璧でしたが、時折、全く初歩的な間違いをしていました。口頭発表では、明らかにレベル差がありました。彼女はいくつかの単語を英語訛りで系統的に発音していました。また、受験者の画像は「ぼやけて不自然な感じ」でした。

この学生は2023年秋に合計3本の異なるビデオを提出しました。2つの科目で、2つの課題と試験の一部が課されました。

どのビデオにも奇妙な特徴がありました。発声と口の動きが一致していませんでした。高いレベルにもかかわらず、学生は「ブエノスアイレス」や著名な作家ホルヘ・ルイス・ボルヘスといった有名な単語を完全に間違って発音していました。

--- これは私たちにとって全く新しいタイプのケースで、同様のケースはこれまで経験したことがありません、とオールディーク氏は言います。

学生に面識はなかった

大学のデジタル化と教育の質を担当する部署がビデオを確認しました。彼らもこのような問題の経験はありませんでしたが、ビデオは不正行為を示している可能性があると考えました。

この1年間のプログラムはオンラインと対面形式のプログラムです。学生は対面に出席しなかったため、講師陣は彼女に直接会うことはありませんでした。

講師陣は彼女を呼び出し、彼女が印象通りのスペイン語を話せるかどうかを確認するために面接を行いましたが、回答は得られませんでした。

不正行為で有罪判決

このケースは最終的に不正行為として扱われ、彼女は学生委員会によって不正行為で有罪判決を受けました。

委員会はビデオが偽物であると判断しました。

いわゆる「ディープフェイク」動画、つまり人物の声や顔を偽装した動画はインターネット上に溢れており、無料で作成できるツールも数多く存在します。

偽の司会者フレドリック・ソルヴァングがNRKの討論番組の視聴者を騙した動画(https://www.nrk.no/norge/ki-stunt-i-debatten-_-deepfake-av-fredrik-solvang-pa-direkten-1.16901230)は、今年初めに注目を集めました。

1年間の出場停止処分

学生の対応として、2つの課題と1つの試験が取り消され、2024年度の両学期の出場停止処分が下されました。

委員会は以下のように述べています。

委員会は、本件において客観的に不正行為があったと推定し、試験官の陳述書を参照しています。陳述書には、3つの解答において、学生の「人工的で機械的な声と発音」、「話し言葉と口の動きの一致の欠如」、「顔が加工されているように見える」、よく使う単語の発音が間違っている、そして解答が「AI生成テキストに典型的な一般的なレベル」であることが明らかになったと記載されています。

事件資料によると、学生は解答作成に人工知能(AI)を使用したことも認めていますが、これについては事件資料では詳細が述べられていません。

委員会は、学生が委員会に書面による陳述書を提出しておらず、学習プログラムを退学したと述べています。

--- 準備未用


クロノ氏自身は動画を見ていません。大学側は動画の共有を望んでいません。

----動画を見た時、どう思いましたか?

----「特別で不安な気持ちになりました」と、教科担当マネージャーのハンス・ヤコブ・オールディーク氏は言います。

彼は、大学には人工知能の経験があり、これは大学にとって重要な課題だと語ります。

----しかし、操作された動画を受け取ったということは、私たちはそれに備えていませんでした。これは一種の警告でもあります。今回の不正行為は、検知できないほど高度なものではありませんでした。しかし、このような不正行為は今後さらに巧妙になるでしょう。そのため、これらの動画を評価基準の一部として使用することは困難になります。

彼は、このような動画は、言語や発音に関するフィードバックを容易に提供できるため、特に有用であると述べています。

大学では、動画は主に試験前の学生への一種のトレーニングとして使用されています。

試験形式を変更する予定

人工知能の台頭により、大学は試験形式を変更する可能性があります。形式です。

--- 学校の試験とリアルタイムの口頭試験の両方を活用して、今こそ厳しくする必要があると思います、とオルディック氏は言います。

動画を含む必須提出物に関しては、大学はシンクタンクのような立場です。

--- 何らかの対策を講じるつもりです。しかし、この種の練習課題は学生にとって貴重なものなので、どのように変更すべきか少し迷っています。

スペイン語圏では、多くの学生が筆記提出物にAIを利用していることが分かっています。

--- 昨年の筆記提出物では、4分の1から5分の1の学生が明らかに、非常に広範囲に人工知能を活用していると推定されます。

--- でも、不正行為が発覚する人はそれほど多くないのではないでしょうか?

--- いいえ、この状況で不正行為を証明するのは大きな課題であり、他の科目の同僚とも議論している課題です。AIの広範な使用を考えると、1つの解決策としては、必須提出物の自由度を低くし、特定のシラバステキストに結び付けることが考えられますが、科目によって異なります。これがどれほど適切で実現可能なのか。

インガ・ストルムケ:--- 少しナイーブ


人工知能の専門家であるインガ・ストルムケ氏は、フェイク動画が高等教育にまで浸透していることに驚きはないと述べている。

--- 使い方はとても簡単で、特に少しお金をかければ、なおさらだ。だから、学生がフェイク動画を利用できるのは当然だ。しかし、一度時間をかけて勉強した後で、カンニングをしてしまうことには驚きだと、NTNUの研究者は述べている。

彼女は、オンラインコースの学生に動画の提出を求める大学側の姿勢は、少しナイーブすぎると考えている。

--- 数年前なら、これは全く普通の評価方法だっただろう。もちろん、今ではカンニングをする人が増えている。学生に事前に録画した動画を提出させるのは、少しナイーブすぎるかもしれない。そうすれば、満足するまで修正を加えて再生できる、と彼女は言う。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd