公平性分析は、AI モデルのバイアスを特定し、性別や人種などの属性に基づく不公平な結果を防ぎます。Platform for AI (PAI) の Data Science Workshop (DSW) に responsible-ai-toolbox を統合することで、センシティブな特徴によってモデルのパフォーマンスがどのように変化するかを評価できます。
仕組み
公平性分析は、AI システムにおけるバイアスを特定して修正し、意思決定が無関係な要因に影響されないようにします。中核となる原則は次のとおりです:
-
バイアスの回避: データとアルゴリズムのバイアスを特定して削減し、AI システムが性別、人種、年齢などの個人属性に基づいて不公平な決定を下さないようにします。
-
代表性のあるデータ: すべてのユーザーグループを正確に反映し、マイノリティの疎外を防ぐ代表的なデータセットで AI モデルをトレーニングします。
-
透明性と説明可能性: 説明可能な AI 技術で AI システムの透明性を向上させ、ユーザーや意思決定者がモデルが特定の予測を行う理由を理解できるようにします。
-
継続的なモニタリングと評価: AI システムを定期的にモニタリングおよび評価し、時間とともに現れるバイアスを検出して修正します。
-
多様性と包括性: AI システムの設計と開発に多様な視点を取り入れ、問題が複数の背景や視点から検討されるようにします。
-
コンプライアンスと倫理: 規制と倫理基準に従い、AI アプリケーションが害や不正義を引き起こさないようにします。
以下の例では、性別と人種における所得予測モデルの公平性を評価します。このモデルは、年間所得が $50K を超えるかどうかを予測します。この例では、PAI DSW で responsible-ai-toolbox を使用して公平性分析を行う方法を説明します。
前提条件
-
DSW インスタンス。お持ちでない場合は、「DSW インスタンスの作成」をご参照ください。推奨設定:
-
インスタンスタイプ:ecs.gn6v-c8g1.2xlarge
-
イメージ:Python 3.9 以降。このトピックでは、次の公式イメージを使用します:tensorflow-pytorch-develop:2.14-pytorch2.1-gpu-py311-cu118-ubuntu22.04
-
モデルフレームワーク:responsible-ai-toolbox は、scikit-learn、PyTorch、および TensorFlow で構築された回帰モデルと二項分類モデルをサポートしています。
-
-
トレーニングデータセット:独自のデータセットを使用します。代わりにサンプルデータセットを使用するには、「手順3:データセットの準備」に従ってください。
-
学習済みモデル:独自のモデルを使用します。代わりにサンプルモデルを使用するには、「手順5:モデルのトレーニング」に従ってください。
手順1:DSW ギャラリーを開く
-
PAI コンソール にログインします。
-
画面左上で、リージョンを選択します。
-
左側メニューで、クイックスタート > [Notebook Gallery] を選択します。[Responsible AI - Fairness Analysis] を検索し、対応するカードの DSW で開く をクリックします。
-
DSW インスタンスを選択し、ノートブックを開く をクリックします。[Responsible AI - Fairness Analysis] ノートブックが開きます。
手順2:依存関係のインストール
公平性評価のために responsible-ai-toolbox パッケージ (raiwidgets) をインストールします。
!pip install raiwidgets==0.34.1
手順3:データセットの準備
次のスクリプトを実行して、このトピックの例で使用するOpenML データセット 1590 をロードします。
from raiutils.common.retries import retry_function
from sklearn.datasets import fetch_openml
class FetchOpenml(object):
def __init__(self):
pass
# data_id = 1590 の OpenML データセットをフェッチします
def fetch(self):
return fetch_openml(data_id=1590, as_frame=True)
fetcher = FetchOpenml()
action_name = "データセットのダウンロード"
err_msg = "openml データセットのダウンロードに失敗しました"
max_retries = 5
retry_delay = 60
data = retry_function(fetcher.fetch, action_name, err_msg,
max_retries=max_retries,
retry_delay=retry_delay)
独自のデータセットをロードすることもできます。次のコードは CSV ファイルをロードします:
import pandas as pd
# 独自のデータセットを CSV 形式でロードします
# pandas を使用して CSV ファイルを読み取ります
data = pd.read_csv(filename)
手順4:データの事前処理
特徴変数と目的変数の取得
目的変数は、モデルによる予測の対象となる実際の値です。特徴変数は、各データインスタンスの他のすべての変数です。この例では:
-
class:年間所得が $50K を超えるかどうか
-
sex:性別
-
race:人種
-
age:年齢
次のスクリプトを実行して、特徴変数を X_raw にロードし、最初の 5 行をプレビューします:
# 目的変数を除き、特徴変数を取得します。
X_raw = data.data
# 目的変数を除き、特徴変数の最初の 5 行を表示します。
X_raw.head(5)
次のスクリプトを実行して、目的変数をエンコードし、その分布を表示します。値 1 は所得 >$50K を、0 は所得 <=$50K を示します。
from sklearn.preprocessing import LabelEncoder
# 目的変数を二項分類のターゲットに変換します
# data.target は目的変数 "class" です
y_true = (data.target == '>50K') * 1
y_true = LabelEncoder().fit_transform(y_true)
import matplotlib.pyplot as plt
import numpy as np
# 目的変数の分布を表示します
counts = np.bincount(y_true)
classes = ['<=50K', '>50K']
plt.bar(classes, counts)
センシティブな特徴の特定
次のスクリプトを実行して、sex と race をセンシティブな特徴として定義し、データをプレビューします。responsible-ai-toolbox は、これらのセンシティブな特徴に関してモデルの予測にバイアスがあるかどうかを評価します。実際には、ビジネス要件に基づいてセンシティブな特徴を設定します。
# "sex" と "race" をセンシティブな属性として定義します
# まず、データセットからセンシティブな属性に関連する列を選択し、新しい DataFrame `sensitive_features` を作成します
sensitive_features = X_raw[['sex','race']]
sensitive_features.head(5)
次のスクリプトを実行して、X_raw からセンシティブな特徴を削除し、結果をプレビューします:
# 特徴変数からセンシティブな特徴を削除します
X = X_raw.drop(labels=['sex', 'race'],axis = 1)
X.head(5)
特徴のエンコードとスケーリング
次のスクリプトを実行して、One-Hot エンコーディングと特徴量スケーリングを適用し、データを responsible-ai-toolbox に適した形式に変換します。
import pandas as pd
from sklearn.preprocessing import StandardScaler
# One-Hot エンコーディング
X = pd.get_dummies(X)
# データセット X で特徴量スケーリングを実行します
sc = StandardScaler()
X_scaled = sc.fit_transform(X)
X_scaled = pd.DataFrame(X_scaled, columns=X.columns)
X_scaled.head(5)
トレーニングデータとテストデータの分割
次のスクリプトを実行して、データの 20% をテストデータセットに、残りの 80% をトレーニングデータセットに割り当てます。
from sklearn.model_selection import train_test_split
# `test_size` の比率に従って、特徴変数 X と目的変数 y をトレーニングセットとテストセットに分割します
X_train, X_test, y_train, y_test = \
train_test_split(X_scaled, y_true, test_size=0.2, random_state=0, stratify=y_true)
# 同じランダムシードを使用してセンシティブな特徴をトレーニングセットとテストセットに分割し、上記の分割との一貫性を確保します
sensitive_features_train, sensitive_features_test = \
train_test_split(sensitive_features, test_size=0.2, random_state=0, stratify=y_true)
各データセットのサイズを確認します:
print("トレーニングセットのサイズ:", len(X_train))
print("テストセットのサイズ:", len(X_test))
両方のデータセットのインデックスをリセットします:
# インデックスエラーを回避するために DataFrame のインデックスをリセットします
X_train = X_train.reset_index(drop=True)
sensitive_features_train = sensitive_features_train.reset_index(drop=True)
X_test = X_test.reset_index(drop=True)
sensitive_features_test = sensitive_features_test.reset_index(drop=True)
手順5:モデルのトレーニング
以下の例では、scikit-learn を使用して、トレーニングデータでロジスティック回帰モデルをトレーニングします。
scikit-learn
from sklearn.linear_model import LogisticRegression
# ロジスティック回帰モデルを作成します
sk_model = LogisticRegression(solver='liblinear', fit_intercept=True)
# モデルをトレーニングします
sk_model.fit(X_train, y_train)
PyTorch
import torch
import torch.nn as nn
import torch.optim as optim
# ロジスティック回帰モデルを定義します
class LogisticRegression(nn.Module):
def __init__(self, input_size):
super(LogisticRegression, self).__init__()
self.linear = nn.Linear(input_size, 1)
def forward(self, x):
outputs = torch.sigmoid(self.linear(x))
return outputs
# モデルをインスタンス化します
input_size = X_train.shape[1]
pt_model = LogisticRegression(input_size)
# 損失関数とオプティマイザ
criterion = nn.BCELoss()
optimizer = optim.SGD(pt_model.parameters(), lr=5e-5)
# モデルをトレーニングします
num_epochs = 1
X_train_pt = X_train
y_train_pt = y_train
for epoch in range(num_epochs):
# 順伝播
# DataFrame を Tensor に変換します
if isinstance(X_train_pt, pd.DataFrame):
X_train_pt = torch.tensor(X_train_pt.values)
X_train_pt = X_train_pt.float()
outputs = pt_model(X_train_pt)
outputs = outputs.squeeze()
# ndarray を Tensor に変換します
if isinstance(y_train_pt, np.ndarray):
y_train_pt = torch.from_numpy(y_train_pt)
y_train_pt = y_train_pt.float()
loss = criterion(outputs, y_train_pt)
# 逆伝播と最適化
optimizer.zero_grad()
loss.backward()
optimizer.step()
TensorFlow
import tensorflow as tf
from tensorflow.keras import layers
# ロジスティック回帰モデルを定義します
tf_model = tf.keras.Sequential([
layers.Dense(units=1, input_shape=(X_train.shape[-1],), activation='sigmoid')
])
# バイナリクロスエントロピー損失と確率的勾配降下法オプティマイザを使用してモデルをコンパイルします
tf_model.compile(optimizer='sgd', loss='binary_crossentropy', metrics=['accuracy'])
# モデルをトレーニングします
tf_model.fit(X_train, y_train, epochs=1, batch_size=32, verbose=0)
手順6:モデルの評価
responsible-ai-toolbox の FairnessDashboard を使用して、テストデータセットで予測を生成し、公平性評価レポートを作成します。
FairnessDashboard は、予測と実際の結果をセンシティブな特徴の値でグループ化します。グループ間で予測された結果と実際の結果を比較し、モデルのパフォーマンスがどのように異なるかを明らかにします。
たとえば、センシティブな特徴が "sex" の場合、FairnessDashboard は予測 (y_pred) と実際の結果 (y_test) を性別で分類し、"Male" と "Female" の選択率、精度、その他の指標を計算して比較します。
以下の例では、scikit-learn モデルを評価します:
scikit-learn
from raiwidgets import FairnessDashboard
import os
from urllib.parse import urlparse
# テストデータセットで予測結果を生成します
y_pred_sk = sk_model.predict(X_test)
# responsible-ai-toolbox を使用して、各センシティブグループのメトリックを計算します
metric_frame_sk = FairnessDashboard(sensitive_features=sensitive_features_test,
y_true=y_test,
y_pred=y_pred_sk, locale = 'zh-Hans')
# URL リダイレクトリンクを設定します
metric_frame_sk.config['baseUrl'] = 'https://{}-proxy-{}.dsw-gateway-{}.data.aliyuncs.com'.format(
os.environ.get('JUPYTER_NAME').replace("dsw-",""),
urlparse(metric_frame_sk.config['baseUrl']).port,
os.environ.get('dsw_region') )
print(metric_frame_sk.config['baseUrl'])
PyTorch
from raiwidgets import FairnessDashboard
import torch
import os
from urllib.parse import urlparse
# モデルをテストし、公平性を評価します
pt_model.eval() # モデルを評価モードに設定します
X_test_pt = X_test
with torch.no_grad():
X_test_pt = torch.tensor(X_test_pt.values)
X_test_pt = X_test_pt.float()
y_pred_pt = pt_model(X_test_pt).numpy()
# responsible-ai-toolbox を使用して、各センシティブグループのメトリックを計算します
metric_frame_pt = FairnessDashboard(sensitive_features=sensitive_features_test,
y_true=y_test,
y_pred=y_pred_pt.flatten().round(),locale='zh-Hans')
# URL リダイレクトリンクを設定します
metric_frame_pt.config['baseUrl'] = 'https://{}-proxy-{}.dsw-gateway-{}.data.aliyuncs.com'.format(
os.environ.get('JUPYTER_NAME').replace("dsw-",""),
urlparse(metric_frame_pt.config['baseUrl']).port,
os.environ.get('dsw_region') )
print(metric_frame_pt.config['baseUrl'])
TensorFlow
from raiwidgets import FairnessDashboard
import os
from urllib.parse import urlparse
# モデルをテストし、公平性を評価します
y_pred_tf = tf_model.predict(X_test).flatten()
# responsible-ai-toolbox を使用して、各センシティブグループのメトリックを計算します
metric_frame_tf = FairnessDashboard(
sensitive_features=sensitive_features_test,
y_true=y_test,
y_pred=y_pred_tf.round(),locale='zh-Hans')
# URL リダイレクトリンクを設定します
metric_frame_tf.config['baseUrl'] = 'https://{}-proxy-{}.dsw-gateway-{}.data.aliyuncs.com'.format(
os.environ.get('JUPYTER_NAME').replace("dsw-",""),
urlparse(metric_frame_tf.config['baseUrl']).port,
os.environ.get('dsw_region') )
print(metric_frame_tf.config['baseUrl'])
主要なパラメータ:
-
sensitive_features:センシティブな属性。
-
y_true:テストデータセットの実際の結果。
-
y_pred:モデルの予測。
-
locale (オプション) :評価ダッシュボードの表示言語。簡体字中国語 ("zh-Hans") と繁体字中国語 ("zh-Hant") をサポートしています。デフォルトは英語 ("en") です。
手順7:評価レポートの表示
評価が完了したら、URL をクリックして完全な評価レポートを表示します。

評価ページが "Calculating" でスタックした場合は、「よくある質問」で解決策をご参照ください。
[Fairness dashboard] ページで、利用開始 をクリックします。以下で説明するように、センシティブな特徴、パフォーマンスメトリック、公平性メトリックを設定して、センシティブな特徴グループ間でモデルの指標を比較します。
センシティブな特徴:sex
-
センシティブな特徴:sex
-
パフォーマンスメトリック:精度
-
公平性メトリック:人口統計学的パリティ差

-
精度:全サンプルのうち正しく予測されたサンプルの割合。モデルは、男性の所得を 81.6% の精度で、女性の所得を 93.1% の精度で予測します。どちらの値も、全体の精度 85.4% に近いです。
-
選択率:モデルが有利な結果 (所得 >$50K) を予測する確率。モデルは、男性の選択率を 25.7%、女性の選択率を 7.36% と予測します。女性の選択率は、全体の選択率 19.6% をはるかに下回っています。
-
人口統計学的パリティ差:保護されたグループ間で肯定的な予測を受け取る確率の差。値が 0 に近いほど、グループ間のバイアスが少ないことを示します。全体の人口統計学的パリティ差は 18.3% です。
センシティブな特徴:race
-
センシティブな特徴:race
-
パフォーマンスメトリック:精度
-
公平性メトリック:人口統計学的パリティ差

-
精度:全サンプルのうち正しく予測されたサンプルの割合。モデルは、"White" と "Asian-Pac-Islander" の所得をそれぞれ 84.9% と 79.1% の精度で予測するのに対し、"Black"、"Other"、"Amer-Indian-Eskimo" では 90.9%、90.8%、91.9% です。すべてのグループの精度は、全体の精度 85.4% に近いです。
-
選択率:モデルが有利な結果 (所得 >$50K) を予測する確率。"White" (21%) と "Asian-Pac-Islander" (23.9%) の選択率は、"Black" (8.34%)、"Other" (10.3%)、"Amer-Indian-Eskimo" (8.14%) の選択率よりも高いです。これらの低い率は、全体の選択率 19.6% をはるかに下回っています。
-
人口統計学的パリティ差:保護されたグループ間で肯定的な予測を受け取る確率の差。値が 0 に近いほど、グループ間のバイアスが少ないことを示します。全体の人口統計学的パリティ差は 15.8% です。
よくある質問
Q:Fairness Dashboard が "Calculating" でスタックした場合はどうすればよいですか?
DSW 環境では、クロスオリジンリクエストに認証情報が含まれていないため、Fairness Dashboard が "Calculating" でスタックすることがあります。これを修正するには、ウェルカムページでブラウザコンソール (F12 キーを押し、[Console] タブに切り替えます) を開き、次のコードを実行します:
const _fetch = window.fetch;
window.fetch = function(url, opts = {}) {
if (String(url).includes('/metrics') || String(url).includes(location.host)) {
opts.credentials = 'include';
}
return _fetch.call(this, url, opts);
};
