インターネット上の有害なコンテンツ防止―子供のためのAIフィルター

インターネット上の有害なコンテンツ防止―子供のためのAIフィルター

Cyber​​Purify Kids は、ブラウザで人工知能 (AI) を使用して、15 種類の有害なコンテンツを特定し、子供に表示されないようにするツールです。この製品は、学校、研究室、および公共のコンピュータ設置場所に無料で提供されます。

子供にとって有害な15種類のコンテンツを特定してブロックするAIフィルター

Cyber​​Purify – 機械学習技術を使用して悪意のあるコンテンツを特定・防止するアプリを開発したスタートアップです。本企業はが子供のための安全なインターネット環境を提供するために、世界中の親をお手伝いする無料の Cyber​​Purify Kids ソリューションを正式にリリースしました。

この製品は、ブラウザ上でディープラーニングモデルを実行して、暴力的なコンテンツを含む、子供にとって有害な15種類のコンテンツを特定して防止する機能を果たしています。Google Chrome、Microsoft Edge、Firefox、Safari などの一般的なブラウザの拡張機能として提供されます。

全英映像等級審査機構(BBFC)- 映画・ゲームの分類専門の英国のメディアコンテンツ管理機関によると、10歳未満の子供が外の世界を接触・探索する時期の一方、マイナス要因の影響を受けてしまう対象になるという。事故、流血、動物虐待、暴力などの画像の不適切なコンテンツは、子供の将来のトラウマになってしまう可能性があるという。

一方、Cyber​​Purify の共同設立者兼 CEO である Nguyen Huu Binh 氏によると、子供の行動や視聴権を監視することで子供のプライバシーを侵害することは、子供の人格、精神、能力の発達にも間接的に影響するとお話ししました。

これまで、保護者方々は、サイバースペースの危険性にも関わらず、子供に自由にコンピュータを使用させることや、監視ソフトウェアを使用して、思わず子供のプライバシーを深刻に侵害してしまう課題に直面しなければなりませんでした。

したがって、Cyber​​Purify は、悪意のあるコンテンツが表示されないうちにも、識別と分類タスクをお手伝いするAIテクノロジのアプリの構築に工夫しました。本来の制御・監視のやり方を先見のあるAIに置き換え、子供の安全のためという概念を再定義しようと発表しました。

「これは、子供たちに忠実で献身的なパートナーを与えるようなもので、プライバシーを判断したり精査したりすることなく、子供たちの世界のインターネット上の知識を探索する旅の真の伴侶となるでしょう。」と Nguyen Huu Binh 氏は述べています。

 

Cyber​​Purify Kids 継続的に「自習」し、より賢くなるツール

開発チームによると、Cyber​​Purify Kids の使用は非常に簡単で、保護者はブラウザの拡張機能ストアにある Cyber​​Purify Kids のインストール ボタンを押すだけで済ませるという。

子供がブラウザーでインターネットにアクセスするたびに、Cyber​​Purify は表示されたコンテンツを自動的に分析し、有害であると判明した場合はそのコンテンツをモザイクしたり、お子様が薬物や覚醒剤などについて検索していることを検出すると、保護者にレポートを送信したりします。子供がこのフィルターを外そうとすると、親にも通知が届きます。

Nguyen Huu Binh 氏は、何千万もの入力データを使って、AIをトレーニングするために特別な機器を使用しなければならないなどの技術的な問題に加えて、最大の問題は依然として、AI用のデーターを構築するための収集と分類というタスクであると述べました。

従業員10名ほどのスタートアップですが、これまでにCyber​​Purifyで収集したホラー・暴力画像のデータセットは約100万件に達しています。

「毎日、こわいシーンなど、何万もの有害な画像を収集する必要があります。これらの画像を見ると、データ収集の担当者のメンタルヘルス、心の健康に悪影響を及ぼす可能性があります。したがって、Cyber​​Purify はそれを外部委託することはできなくて、何ヶ月も継続的に社内で行っています」と Nguyen Huu Binh 氏は打ち明けました。

さらに、過去に Cyber​​Purify は、デジタルコンテンツのプロバイダーに専用のハードウェアおよびソフトウェアの形で、ユーザーに投稿されたコンテンツを自動的に検閲するというB2B サービスを提供した経験があります。現在、毎日 1,000万件を超える画像および動画コンテンツを処理しています。これは、20,000人の労働力に相当するという。

5G、スマホ、ソーシャルネットワークの発展により、現在、世界には46億6000万人のインターネットユーザーがおり、1人あたり平均で 1日あたり最大1.7GB のデータ、つまり 2,000枚の写真または 150件のビデオに相当するデータが生成されます。子供の手に届く前に分別する必要があるコンテンツの量が数多く増えています。

「これは、Cyber​​Purify がブラウザのキッズバージョンから始めて、会社の認知度を高くする方針があります。Cyber​​Purify キッズの特別な機能は、子供のように、常に自分自身でより多くのことを学んでいるということです。悪意のあるコンテンツより賢くなり、将来的により徹底的にそれを防止するために、毎日努力しています。」とNguyen Huu Binh氏は強調しました.

 

出典:

https://vietnamnet.vn/vn/make-in-vietnam/su-dung-tri-tue-nhan-tao-loc-noi-dung-doc-hai-voi-tre-em-tren-internet-739469.html