画像のサムネイル生成に関する透明性

Twitterは常に透明性が高く、わかりやすいサービスの提供を目指していますが、時にはうまくいかないことがあります。最近取り上げられている、画像のサムネイルをどのように生成するかもその一つです。ここ数週間、Twitterはシステムのバイアスについて検証するとともに、Twitter上での画像の表示方法を見直しています。課題は多く残っていますが、今日は以下の点についてTwitterがどのような対応を検討しているのかについてご説明します。

システムの検証方法

Twitterは、ツイートする前に画像のサムネイルをどのように生成するかを決定する既存の機械学習（ML）システムを検証しました。この際、解析を外部でも再現できるよう、その手法を公開すべきだったと考えています。これはTwitterが見落とした点でした。

画像トリミングシステムは、「サリエンシー」と呼ばれる、人の目が最初にいきやすい部分を判断する技術を活用しています。当初のバイアス解析では、2つのデモグラフィック属性（白人／黒人、白人／インド人、白人／アジア人、男性／女性）でどちらが選択される傾向にあるかを、組み合わせテストの技法である「ペアワイズ法」で評価しました。それぞれの試験で、2つの顔をランダムな順序で1つの画像にし、組み合わせた画像のサリエンシー・マップを算出しました。その後、サリエンシーが最も高い部分を検出し、どちらのデモグラフィック属性に着地したかを記録しました。これを、各デモグラフィック属性のペアで200回繰り返し、どちらが選ばれる頻度が高いかを評価しました。

Twitterの解析では、人種や性別のバイアスは検出されていませんが、サムネイルの自動生成が弊害をもたらす可能性はあります。プロダクトの設計、開発の最初の段階でこのような可能性をもっときちんと予測すべきだったと考えています。現在、さらに厳密にテストするべく追加解析しており、結果を公表していくとともに、外部の皆様のご協力を得てTwitterが責任を果たしていけるよう解析のオープンソース化を検討しています。

今後の変更

MLベースの画像トリミングだけでなく、利用者にツイート上の画像がどう見えるかをより明確に把握、管理していただけるよう優先的に取り組んでいます。日々ツイートされる多様な画像に対する最適な手法について様々な選択肢を検討中です。サムネイル画像の選択肢を増やし、ツイートの編集画面でプレビュー機能を提供することで、弊害リスクを低減できるのではないかと考えています。

今後、「WYSIWYG（見たままを表示する）」というデザインの原則にのっとり、ツイート編集画面で確認できる画像がそのままツイートに表示されるようにする予定です。これには、画像のサイズが標準的でない場合や、高さと幅が大きすぎる場合など、いくつかの例外が想定されます。このような場合には、製作者の意図や画像の完全性を損なうことなく表示する方法を検討する必要があります。

MLシステムのバイアスは業界全体の問題であり、Twitterでも改善に努めています。Twitterはその責任を認識しており、Twitterのシステムがどのように働いているのか、皆様により簡単に理解していただけるよう努めてまいります。周到かつ包括的な解析を通してバイアスを最小化し、進捗に伴い情報を提供してまいります。

やるべきことは多くありますが、この件に関して声を上げ、フィードバックを提供してくださった皆さんにこの場を借りて感謝を申し上げます。