ジャッジメント コール

  • [アーティクル]

ジャッジメント コールは、Microsoft の AI の基本原則である公平性、プライバシーとセキュリティ、信頼性と安全性、透明性、包括性、説明責任を実行に移すゲームであり、チームベースのアクティビティです。 このゲームでは、シナリオを想定することで利害関係者への共感を育むための使いやすい手段が提供されています。 ゲーム参加者は、特定の利害関係者の視点から製品レビューを書き、その利害関係者の立場から、テクノロジによってどのような影響と損害が発生する可能性があるかを記述します。

メリット

テクノロジ ビルダーには、さまざまな利害関係者の価値感と、それらの価値感をテクノロジでどのように支持するか、または支持しないかを検討することで、製品開発に倫理を組み入れるための実用的な方法が必要です。 このゲームの目的は、利害関係者の理解を深め、彼らが何を必要とし、何を期待しているかを理解することによって、製品またはプラットフォームの潜在的な結果を推測することです。

このゲームは、人々がゲームプレイのコンテキスト内の安全な場所で困難なトピックについて話し合うのを助け、製品開発中に倫理に関する議論を促進するためのボキャブラリをテクノロジ作成者に提供します。 マネージャーとデザイナーには、倫理的な設計を製品に組み込むために、倫理に関するチームとの話し合いをリードするための対話式ツールが提供されます。

ジャッジメント コール ゲームの理論的基礎と初期の結果は、2019 年の "ACM Design Interactive Systems" 会議で提示され、このゲームは、Fast Company の "2019 Innovation by Design Awards" ("Social Goods" カテゴリ) の最終選考に残りました。 このゲームは、米国内外で何千人もの人に提供されています。 ゲームプレイで最大のグループは 100 人を超えていますが、各カード デッキで 1 人から 10 人のプレーヤーが参加できます。 このゲームは、強力なユーザー調査を行うための代替手段として使用されることを意図したものではありません。 むしろ、これは、テクノロジ ビルダーが道徳的想像力を働かせる方法を学ぶための演習です。

準備

ジャッジメント コールは、ロール プレイを使用して、製品開発における倫理的懸念を表面化させます。それにより、プレーヤーは、社会的影響を予測し、製品のレビューを書き、軽減策を探ることができます。 プレーヤーは、利害関係者の観点から製品レビューを書くことで、テクノロジがどのような種類の損害や影響をもたらす可能性があるかを考えます。

このゲーム用に準備するには、印刷可能なジャッジメント コール ゲーム キットをダウンロードします。

ゲーム中

プレーヤーは、このゲームで次の手順を実行することを期待されています。

  1. 製品を特定する

    まず、チームが構築している製品、または取り組んでいるシナリオを特定します。 たとえば、チームが合成音声テクノロジを開発している場合、シナリオとしては、オンライン学習用の音声アシスタントの開発が考えられます。

  2. カードを配る

    シナリオを決定したら、カードを配ります。 各プレーヤーは、利害関係者カード、倫理原則カード、評価カード、およびレビュー フォームを受け取ります。 これらのカードの説明を次に示します。

    • 利害関係者: これは、選択したテクノロジまたはシナリオの影響を受ける人々のグループを表します。 利害関係者には、製作者 (テクノロジを提案し、その開発に取り組んでいる人々) と、社内のプロジェクト スポンサー (プロジェクトを支援しているマネージャーや経営幹部) も含めることができます。

    • 基本原則: これには、公平性、プライバシーとセキュリティ、信頼性と安全性、透明性、包括性、説明責任という Microsoft の倫理の基本原則が含まれます。

    • 評価: 星のカードは評価を示します。星 1 つは悪い、星 3 つは良くも悪くもない、星 5 つは非常に良いです。

  3. ブレインストーミングを行い、利害関係者を特定する

    グループとして、直接的または間接的にテクノロジの影響を受ける可能性があるすべての利害関係者についてのブレインストーミングを行います。 次に、各プレーヤーに一覧から利害関係者を割り当てます。 場合によっては、ジャッジメント コールのデッキに、事前設定された利害関係者カードが含まれていることがありますが、プレーヤーは自分の状況に関連したカードを追加できます。

    デッキには、次のカテゴリの利害関係者が用意されています。

    • 直接: テクノロジを使用する人々やテクノロジの使用対象となる人々。

    • 間接: テクノロジの効果を感じる人々。

    • 特別な集団: テクノロジを使用できない人々や使用しないことを選択した人々、および支持団体や政府など、そのデプロイに関心がある組織を含む幅広いカテゴリがあります。

    それぞれの利害関係者グループにおいて感じられている、または永続している可能性があるさまざまな損害があります。 利害関係者の種類には、製品のエンド ユーザー、管理者、社内チーム、支持団体、製造元、製品の使用から除外される可能性のある人々を含めることができます。 また、利害関係者には、製作者 (テクノロジを提案し、その開発に取り組んでいる人々) と、社内のプロジェクト スポンサー (つまり、プロジェクトを支援しているマネージャーや経営幹部) も含めることができます。

  4. モデレーターの選択

    モデレーターは、ゲームプレイのシナリオを説明し、議論を導き、最後にコメント カードを収集します。 また、デッキで検討される倫理原則の概要についても説明します。

  5. 製品のプレゼンテーション

    モデレーターは、プレーヤーがロール プレイを行うために製品 (実在または架空) を紹介します。 次のようなプロンプトを使って、製品に関する質問から始めることができます。

    • 誰がその製品を使用するか。

    • どのような機能があるか。

    • いつ使用されるか。

    • どこで使用されるか。

    • なぜ役に立つのか。

    • どのように使用されるか。

  6. レビューの作成

    プレーヤーはそれぞれ、配られたカードに基づいて製品またはシナリオのレビューを書きます。 プレーヤーは順番に自分のレビューを読み上げます。 取り上げられた問題またはテーマに注意深く耳を傾けます。 話し合った分析情報に基づいて製品に行う可能性がある変更をメモします。

    • 利害関係者カードは、そのラウンドでのその人の役割を伝えます。

    • 倫理原則カードは、6 つある Microsoft の AI の基本原則の 1 つです。これは、レビューで注目する分野を伝えます。

    • 評価カードは、利害関係者がそのテクノロジをどのくらい気に入っているか (星 1 つ、3 つ、または 5 つ) を伝えます。

    次に、プレーヤーは、利害関係者の立場で、自分が受け取った倫理原則の観点から、なぜその製品が好きか嫌いかについて、テクノロジのレビューを書きます。

ディスカッション

モデレーターは、各プレーヤーに各自のレビューを読ませます。 全員が、さまざまな観点と、提示されていない可能性があるその他の考慮事項に関する議論に参加するよう促されます。

モデレーターがする質問としては、次のようなものが考えられます。

  • 最も影響を受けるのは誰ですか。

  • どのような機能が問題になりますか。

  • どのような損害が考えられますか。

損害の軽減

最後に、グループは議論からスレッドを選択し、特定の損害を軽減できる設計やプロセス変更の特定を開始します。 各ラウンドの終わりには、カードをシャッフルし、同じまたは別のシナリオを使って新たなラウンドを開始できます。

次のステップ

製品またはシナリオが引き起こす可能性がある損害や悪影響を十分に理解したら、効果的な緩和策を考案できるように、それらの損害をモデル化する方法の学習に進んでください。