• 3 分

前のユニットでは、AI 対応ソフトウェアの責任ある倫理的な開発を考慮する必要性を紹介しました。 このユニットでは、Microsoft で採用されている責任ある AI の中核となる原則について説明します。

公平性

AI システムではすべての人を公平に扱う必要があります。 たとえば、銀行の融資承認申請をサポートする機械学習モデルを作成するとします。 このモデルでは、性別、民族性、または特定の申請者グループに不当な優位性や不利益をもたらす可能性のあるその他の要因に基づく偏りを組み込むことなく、ローンを承認するかどうかの予測を行う必要があります。

機械学習されたシステムの公平性は、継続的な研究の中でも非常にアクティブな領域であり、機械学習モデルにおける不公平性の評価、定量化、軽減のためのソフトウェア ソリューションがいくつか存在します。 しかし、ツールだけでは公平性を確保するのに十分ではありません。 アプリケーション開発プロセスの開始時から公平性を考慮してください。トレーニング データを慎重にレビューして、影響を受ける可能性のあるすべての対象を代表していることを確認し、開発ライフサイクル全体にわたってユーザー母集団の小区分の予測パフォーマンスを評価します。

信頼性と安全性

AI システムは確実かつ安全に実行される必要があります。 たとえば、自律走行車用の AI ベースのソフトウェア システム、または患者の症状を診断し、処方箋を推奨する機械学習モデルを考えてみましょう。 この種のシステムの信頼性が低いと、人命に大きなリスクが生じる可能性があります。

すべてのソフトウェアと同様に、AI ベースのソフトウェア アプリケーション開発では、リリース前に期待どおりの動作を確保するために、厳格なテストおよびデプロイ管理プロセスを実施する必要があります。 さらに、ソフトウェア エンジニアは、機械学習モデルの確率論的特徴を考慮し、予測の信頼度スコアを評価する際に適切なしきい値を適用する必要があります。

プライバシーとセキュリティ

AI システムは安全であり、プライバシーを尊重する必要があります。 AI システムのベースとなる機械学習モデルは、大量のデータに依存しており、これには非公開にする必要のある個人の詳細が含まれている場合があります。 モデルがトレーニングされ、システムが運用に入った後でも、新しいデータを使用して予測が行われたり、プライバシーやセキュリティの考慮の対象となる可能性があるアクションが実行されたりします。そのため、データと顧客のコンテンツを保護するための適切な保護機能を実装する必要があります。

包括性

AI システムはあらゆる人に力を与え、人々を結びつける必要があります。 AI は、身体能力、性別、性的指向、民族性などの要因に関係なく、社会のすべての部分に利益をもたらす必要があります。

包括性を最適化する方法の 1 つは、アプリケーションの設計、開発、テストに、できるだけ多様なユーザーのグループからの入力が含まれるようにすることです。

透明性

AI システムは理解しやすい必要があります。 ユーザーは、システムの目的、しくみ、想定される制限事項を十分に認識する必要があります。

たとえば、AI システムが機械学習モデルに基づいている場合は、一般に、モデルのトレーニングに使用されるケースの数や、予測に最も影響を与えている特定の特徴など、予測の精度に影響する可能性がある要因をユーザーに認識させる必要があります。 予測の信頼度スコアに関する情報を共有する必要もあります。

顔認識システムなど、AI アプリケーションが個人データに依存している場合は、ユーザーの画像を取得してそれらを認識します。ユーザーに対して、データの使用と保持の方法、およびそれに対するアクセス権を持つ人を明確にする必要があります。

アカウンタビリティ

人々は AI システムに対して説明責任があります。 多くの AI システムは自律的に動作するように見えますが、最終的には、使用するモデルのトレーニングと検証を行い、システム全体が責任の要件を確実に満たすようにモデルの予測に基づいて決定するロジックを定義した開発者が責任を負います。 この目標を達成するために、AI ベースのソリューションの設計者と開発者は、ソリューションが明確に定義された倫理的および法的基準を確実に満たすガバナンスと組織の原則の枠組みの中で作業する必要があります。

Microsoft の責任ある AI の原則の詳細については、Microsoft の責任ある AI のサイトを参照してください。