ネット界の“旬”なニュースをお届け!

エロ投稿も判別?システム登場

2015.02.15 SUN

噂のネット事件簿


ネット上に投稿される「不適切なコンテンツ」が問題になることも多い
NTTコムウェアが2月9日、SNSなどに投稿されるアダルトなど「不適切な画像コンテンツ」を識別するフィルタリングシステムの開発に成功したと発表。同日よりデータセクション社と共同で、商用化に向けたトライアルを開始した。

フィルタリングシステムには、人間の脳のメカニズムを模擬した機械の学習技術「Deep Learning」を活用。人間に近い感性で画像を判別し、「スコア」という数値で評価する。これにより「適切」「不適切」の二択ではなく、日本の映倫規定で用いられる「G」「PG12」「R15+」「R18+」などの制限区分に応じた識別も可能になるという。

また、画像を分類するための基準値はサービス運営者が設定できるといい、成人向けコンテンツだけでなく、たとえば“悪ふざけ画像”など排除できるようになる。

これまで有人による目視監視が必要だった「不適切な画像コンテンツ」を、自動でフィルタリングできるようになるというニュースに、ツイッター上では、

「ディープラーニングを画像認識に使う研究はよく聞くけど、不適切画像の分類はいい考えだな」

と、歓迎するコメントもあるものの、

「フィルタリングするために裸体や局部の色や形を登録してるのかな。そう考えるとエロいなw」
「この判別器を作るには『不適切な教師(ラベル付き)画像』も必要だけど、どこのデータを使って精度検証したのか気になる…」
「違いのわかる機会の登場?? 機械様がエロじゃないと認定すれば合法エロ??」(※原文ママ)
「水着のボディペインティングの時はどうなるのか気になるw」

など、その学習方法や判断基準に興味を持つ人の声が多かった。

なおNTTコムウェアは、将来的には構造物の劣化損傷具合のモニタリングや、監視カメラ映像によって人の行動の不正を検知するなど、より安心・安全な社会の実現に向けた利用シーンの拡大を見込んでいるという。

取材協力・関連リンク

関連キーワード

注目記事ピックアップ

 

編集部ピックアップPR

ブレイクフォト