人工知能（AI）は、資格認定および試験業界における採用の変曲点にある。この記事では、AIが試験の開発および実施においてどのように実装されているか、また、試験に偏りを与えたり試験の妥当性の完全性を損なったりすることなくこの技術を採用するための指針として「倫理的AI」がどのようにあり得るかを詳しく見ていく。  

倫理的AI」とはどういう意味か？ 

試験開発・試験業界において、「倫理的AI」とは、評価プロセスにおける完全性、公平性、信頼を維持しながらAI技術を導入することを指す。倫理的ガイドラインを遵守することは、AIによって強化されたシステムに対する信頼を築き、危害を与えたり偏見をもたらしたりすることなく、意図された目的を果たすことを保証するのに役立ちます。

検査業界でAIはどのように導入されるのか？ 

人工知能（AI）は、テスト開発と提供のプロセスとシステムを強化するために、すでにいくつかの方法で利用されている。その例をいくつか紹介しよう： 

• テスト開発：AIは項目作成を支援するために使用することができ、SMEはAIが作成したコンテンツの編集に自分の知識を活用することができる。 
• 試験の完全性：AIは、ライブの試験セッションを監視し、遠隔地の試験監督セッションの録画ビデオを分析することで、悪質な行為者を特定する試験監督者の能力を向上させることができます。
• 試験のメンテナンス：AIは、日常的な試験のメンテナンス機能を自動化することができ、中小企業のメンテナンスの役割を、主要なレビュアーからAIによる推奨事項の評価者にシフトさせることができる。

AI技術の開発が進むにつれて、検査業界においてもAIがより幅広い用途に応用・採用されることが期待される。

AIを導入することで、資格認定プログラムの開発・運営方法を向上させる方法については、こちらの最新記事をご覧ください：資格認定にAIを活用する4つの方法。

倫理的配慮とは？ 

テスト出版社協会（ATP）は2022年1月にAIの原則を発表した。ATPのAIガイダンスは以下の原則で構成されている。 透明性」、「Human-In-The-Loop」、「Balanced Utilization」、そして最後に「Fair and Unbiased」。 

透明性：利害関係者（受験者、教育者、管理者）がどのように決定が下されたかを理解できるように、AIシステムは透明で理解しやすいものでなければならない。これには、AI主導の決定に対する説明を提供し、プロセスの透明性を確保することが含まれる。

人間が関与する:この原則は、開発、管理、採点などのテスト プロセスに AI を適用しても、意思決定において訓練を受けた人間が置き換えられないことを保証します。AI は洞察や提案を提供できますが、自律的に結論に達するべきではありません。不正確さに異議を唱え、公平性を維持し、テスト プロセスにおける偏見や差別を防ぐために、重要な段階で人間の関与が不可欠です。

バランスのとれた利用：試験におけるAIのバランスの取れた利用には、スポンサーが、被験者がオプトアウトできるようにしたり、代替試験方法を提供したりするなど、潜在的な偏りを相殺するための選択肢を慎重に検討することが含まれる。また、公平性を確保するために、受験者の個人情報に依存するAI技術を批判的に評価する必要がある。これらの要素を慎重に検討し、バランスを取る仕組みを導入することで、試験実施機関は、試験手順におけるAIの使用に関連するリスクを効果的に評価し、管理することができる。

公正かつ公平：試験や資格認定に使用されるAIアルゴリズムは、人種、性別、民族性、その他の特徴に基づく特定のグループや個人に対する偏りを示してはならない。データやアルゴリズムの偏りを特定し、是正するための措置が講じられている。

考慮すべきAI規制

AI技術の採用や応用が進むにつれ、各国や組織体はリスクを軽減するための規制を導入しつつある。 

例えば、EU委員会は EU人工知能法を発表した。この規制案では、個人と社会に対する潜在的なリスクに基づいて、AIシステムを3つのカテゴリーに分類している。リスクの高いAIシステム（重要インフラ、法執行機関、ヘルスケアで使用されるものなど）には、より厳しい規制が適用される。

米国では AI権利章典の青写真が提案されている。ホワイトハウスの科学技術局は、このAI原則案の中で、"人工知能時代にアメリカ国民を保護するために、自動化システムの設計、使用、配備の指針となるべき5つの原則を特定した "と概説している。 

この種のAI規制が発展する一方で、正式な規制が企業や業界にどのような影響を与えるかを認識しておくことは重要である。 

Kryterion責任あるAIへのアプローチ

Kryterion では、AI が私たちの業界にもたらすチャンスと破壊を明確に認識しています。私たちの最優先事項は、テスト開発と配信のためのツールにおいて、セキュリティ、イノベーション、サービス、価値のベストミックスをお客様に提供することです。AIは、私たちの製品や方向性において、急速に不可欠な技術になりつつあります。私たちがAIとともに歩む道は、AIがもたらす直接的なメリットを網羅する一方で、AIの進化を鋭く意識することで、私たちの製品がお客様のニーズに応え、あるいはそれを上回ることを保証し続けることができるのです。  

私たちの将来とクライアントにとってAIがいかに重要か、さらに話し合いたいので、ミーティングを設定するためにご連絡ください。 

認証におけるAIについてもっと知りたいですか？ 

認証および試験業界におけるAIについて、Kryterion のリソースを参照してください： 

• [BLOG】AIによるオンライン試験監督：長所と短所
• [BLOG】クレデンシャルにAIを活用する4つの方法
• [WEBINAR】クレデンシャルに革命を起こす：AIの危険性をナビゲートする
• [ビデオ】AI時代の労働力強化に関する7つの洞察