インド情報技術大学ハイデラバード校（International Institute of Information Technology, Hyderabad、IIIT-H）がTwitter上で大量につぶやかれているツイートから、人種差別や女性蔑視、ヘイトスピーチに関するツイートを検出するディープラーニングの仕組みを開発したと現地のTimes of Indiaが報じている。

IIIT-HのVasudeva Varma教授と学生らのチームが約1年間かけて開発。Supervised learning（教師あり学習）という機械学習の手法の1つを活用して、Twitter上のヘイトスピーチに関するつぶやきのテキストを発見し、機械学習を通じてアルゴリズムを構築した。書き込みから特定の人種、差別や女性蔑視発言かどうかを判別。さらにそのようなヘイトスピーチの書き込みをした人に警告を発することもできる。また収集した多くのデータを解析することによって、ヘイトスピーチ、レイシズムの根本的な原因となっている人間の心理の分析にも役立てようとしている。具体的な運用開始時期は明らかにされていない。

長年の生活に密着した意識は変わるのか

インドでは歴史的にもカーストによる差別が根強く続いている。日本人にはわかりにくいが、現在でも決してカーストによる差別はなくなっていない。また日本でも多く報道されていたが、女性に対する暴力事件なども相次いでおり、女性に対する蔑視発言も多い。インドではスマホも普及し、誰もがTwitterのようなソーシャルメディアで自由に発言できるようになっている。

ただインドにおけるカーストによる差別意識の歴史は長い。特に地方では差別意識の感情は生活にも密着している。AI（人工知能）が進化し人種差別や女性蔑視、ヘイトスピーチに関する発言を検出できるようになったところで、長年の生活と風習に根付いた意識をすぐに変化できるかは不明だ。