総務省の「犯罪予告検知ソフト開発」の予算と「予告in」 - 対処は本当に可能なのか

2008/06/13

ちょっと出遅れているのですが、予告in 関連のお話を少しだけ。
でもめっちゃ長いので泣かないでください。。。わかりやすく丁寧に書いています。
 
■犯罪予告検知のソフト開発へ=来年度予算で要求-通り魔事件受け増田総務相
http://headlines.yahoo.co.jp/hl?a=20080611-00000109-jij-pol
インターネット上の犯罪予告を検知できるソフトウエアの開発費を、来年度予算の概算要求に盛り込む方針を明らかにした。
(中略)
業界関係者によると、ソフト開発には少なくとも数億円の費用が掛かるという。

■予告in - 犯行予告共有サービス
http://yokoku.in/
■ITmedia - 犯行予告収集サイト「予告.in」公開 「0億円、2時間で作った」
http://www.itmedia.co.jp/news/articles/0806/12/news036.html
■予告inへの過剰反応 - Core
http://d.hatena.ne.jp/core/20080612/1213291350
ブックマークコメントを見ていると総務所の無能っぷりをあざ笑う内容が多いけれども、それって「役所のバーカ」と言いたいだけなんじゃないかと。
■愚民扱いで片付いたら簡単だ。 - pqrs_caffeine/tranquilizer
http://d.hatena.ne.jp/pqrs/20080613/1213327037
数時間で作成されたという予告inは、「これよりはマトモなものを作ってくださいね」というメッセージとして機能していると思う。そして、それを批判する人々においても、自然言語処理がどうとか、携帯サイトへのアクセスとか、運用にいくらかかるとか、いった具体的要望も出てきている。ハードルが上がってきているのである。
■ぼくはまちちゃん! - 予告できる掲示板つくりました!
http://d.hatena.ne.jp/Hamachiya2/20080613/yokoku
 
私が言おうとしていたことは pqrs_caffeine/tranquilizer さんのところで
既に簡潔にまとめられてしまっているのでありますが、もう一度わかりやすく
私のやり方で書いてみようと思います。
 
 
背景はこんな感じでした。
 
例の 秋葉原の殺傷事件 で、加害者が直前にとある掲示板(2ちゃんねるではない)で
殺害予告とその実況めいたもの を書いていたという事実がありました。
これを受けて総務省が、こうした掲示板で予兆を発見したらすぐに見つけて
対策を取れるようにすべきた、ということを言い出し、
その システム開発には数億円かかるだろう という見解を発表しました。
 
ところがその直後、何でもすぐネットサービス化しちゃう satoru.net で有名な
ロケットスタートのsatoruさんが 「それつくれるんじゃない?」 ということで
いろんなWebAPIやその他主だったコミュニティをクロールをすることで
殺害予告やその発見報告めいたものを見つけてリストしていくサービス
予告inを発表。思いついてから完成まで なんと25分 だったというから驚きです。
雑費用は0円。本人のウデだけが費用です、という状態でした。
 
これを受けてはてブなどでは「GJ!」 「総務省ざまぁwww」 「2億も掛かるわけないだろ」
というようなコメントが飛び交ったのですが、また一方ではそれを見て
「本気でそう思ってるなら何だかなぁ」という声も挙がります。
実際には予告inでは対処としてまったく不十分で、本気で問題に対処するなら
数億かかることは全く不思議ではない、というのがその理由です。
 
というのがここまでの流れ。
 
相変わらず空気読めてない(褒め言葉) ネットセキュリティ警鐘家(?)の「はまちや」さんが、
文字を画像にして 書き込めばクロール解析されないよね!という「予告out」を
作ったりして、なかなかカオスなことになっています。ただ、こういう機会を通じてでも、
技術が社会に対して何をすることができるか、という実験を見せてくれる人たちが
いることは大変良いことだと思います。
 
さて、まず1つめ。総務省を笑う系の書き込みが云々という反応のお話は、
ネタとして乗っかる風の意味合いもありますが、そうでなくても 居酒屋談義風 というか
床屋談義風というか、大衆の反応としてはまぁ正常な部類かな、という気がしていました。
 
勿論、それなりに立場のあるIT専門家がメディアへの本気の寄稿で
「本来ならこれだけ安くできるはすのものに大金をつぎ込んで無駄遣いを云々・・・」
という話をしたのであれば、いろいろとツッコミもあるかなとは思うのですが、
どちらかというと野球を見ながら「なんでそこでバントしないんだばかやろー、
原なんかやめちまえ!」と言うのと同じ程度なのかなという感じで、
それは一般の普通の感情でもあるなというのが第一印象でした。
 
 
それはそれ。ここではもう1つの論点を中心にお話します。
実際に 「総務省の考えるシステム」 は「予告in」とどう違うのかというお話です。
 
私は総務省が掲示板常時監視システムを作って犯罪を未然に防ごうと言い出したとき、
正直 「それは馬鹿げてやしないか」 と思いました。でもそれは「もっと簡単に
できるはずのものに数億円も掛けるから」ではありません。
 
「予告in」は確かに素晴らしいです。25分であれだけのものを具現化してしまう
というのは驚異以外の何者でもありません。あれが目標とする状態の4~5割だとしたら、
ネットの特性を本当に知っているプロの腕を以ってしてみれば、そこにたどり着くために
掛かる時間も手間も実はもの凄く少ない、ということを証明して見せてくれました。
 
ネットというかWeb2.0とかいわれる世界は、実はそういうアイデアで溢れています。
理想が100だとしたら、100を作るのには100のコストが掛かるんだけど、
50まででいいなら2~3のコストで出来ちゃうかもよ、という感じです。
その 「100掛けて100を作る几帳面さ」 ではないところにネットの凄さがあるのです。
 
ところが、じゃあこれを進化させていって実際に100を作ろうということになると、
 
 「おい、やっぱり100に到達するには100のコストが掛かっちゃうじゃん」
 
という現実に気が付くことになります。最初、開発費に2億円と聞かされたときには
うわっと思うものの、冷静になってじっくり考えてみると、初期投資2億円もさておき、
運用費って毎年数千万円 はくだらないよな、それ以外にもいろいろ掛かるよな、
みたいなことがどんどん頭をよぎってきます。これでもしもし総務省が、
「トータル2億円ぽっきり掛かります」とか言ってるなら逆の意味で無知かもしれません。
もっとコストが掛かり続けるってばよ (NARUTO)。
 
ではじっくり中身を考えてみましょう。これってすなわち、
 
 この世のすべての掲示板をクローリングするシステムを作る
 
といっています。もうそれだけで泣きそうです。「全てってなによ?」 という。
主だったところだけなら「予告in」だって結構それなりに色々見ています。
でもそれ以外のところで起きたものは防げません。それって意味あるの?
人命を救うためのシステムでしょ? といわれたらグゥの音の出ません。
 
ということになればやっぱり「この世の全てをほぼ網羅しています」
ということにしなければ役に立たないでしょう。
今回の発端になった掲示板だって、そんなに有名な掲示板ではありません。
 
では、まず 掲示板リスト を誰がどうやって作るのか? そして竹の子のように
生まれてくる新しい掲示板にしっかり追随して範囲を広げていくための施策は?
たとえばteacupやfc2に存在する全ての掲示板のリストとか、sakuraにある
cgiで何が書かれているかとか、考え始めたらキリがありません。
掲示板といってもいわゆる掲示板だけではなく コミュニティすべてのこと
指しているのだから、GREEとかモバゲーとか 全部見ていなければお話になりません。
 
 
そこにまた絶望的な条件として、
 
 「ほぼリアルタイム」 というトンデモ条件が加わります。
 
事件が起こった 翌日 になって「実はあそこで書き込みがあったみたいでした」
では済みません。それでは今回と全く同じです。ということは、最低でも
全ての掲示板で 「10分以内」 に起こった予兆は全部感知できていなければいけません。
 
あらゆる書き込みを10分以内でクロールするシステム、
 
 こんなのはGoogle先生だって実現できません。
 
どうしてもやるとしたら、逆の発想をして「国内で運営する全てのコミュニティは
政府の発行する書き込み探知モジュールを埋め込み、システム側から自発的に
イベント駆動で告発 させなければならない」というルールにするしかなさそうです。
(本当にそんなこと言い出したらイヤだなぁ・・・)
 
まぁでもクロール解析システムで何かをしようとするとしましょうか。
Webの全てのページを対象としないという意味ではGoogleより楽かもしれませんが、
Googleより遥かに短い間隔でチェックをする必要があるという意味では
Googleより遥かにリソースを必要とするかもしれません。
 
じゃあ ブレードサーバを500台 並べましょうか。全然足りないと思いますが。
でもレンタルサーバ1台あたり 2万円/月くらい のコストは見込んでおいたほうがいいですよ?
すると1ヶ月1,000万円、年間で1.2億円くらいは掛かる計算になります。
開発費といっていた2億円がかすんできますね。2年目で運用費のほうが上回ります。
 
が、めまいがするのはこれからですから耳をかっぽじってください(?)。
 
サーバ運用費はまだましです。当初の目的は何だったでしょうか。
そう 事件を未然に防ぐこと です。
 
 掲示板で書き込みを「発見」することで事件が防げるなら
 
そんな楽な話はありません。ではその後はどういう動きをするのでしょうか。
まず、事件の予兆っぽい書き込みを発見したら アラームシステム が作動しますが、
それを 「目で見て確認するスタッフ」 が必要です。
モノがモノだけに見逃したり遅れたりしたら大変ですから10人くらいの体制でしょうか?
もちろん 24時間体制ですから3交代制 です。1人あたま組織的コストを無視しても
お給料だけで20万円だとして1ヶ月20万×10人×3交代=600万円/月=年間8,000万円。
わー・・・サーバ代だけで騒いでる場合じゃありませんでしたね。あくまで目安ですが。
 
では、実際に発見したら次にどうするのでしょうか。そのスタッフが問題を切り分けしますが、
せいぜい出来ることは「やばそう」か「やばくなさそう」かという判断くらいです。
9割くらい誤探知っぽいモノになるでしょうが、問題は誤探知じゃない場合です。
 
「殺してやる」 と書かれていたら、実際に書き込み者によって何か事件が起こされるのでしょうか?
いえいえ、そんな保証はどこにもなく、実際に何かが起こるのはその中の0.1%未満でしょう。
でもその中のどの0.1%が本当なのかはただの文字の書き込みですから区別の付きようがありません。
 
としたら、そういう、
 
 「噂レベル」のものに対して「実際に調査・警戒」をしなければならない
 
ということです。
 
というか、何を調査して何を警戒したらよいのでしょうか。それがさっぱり判りません。
「近所の小学校で暴れてやんよ」 という書き込みがあったとしたら、もう大わらわです。
 
 
 近所ってどこよ? 書き込み時のIPアドレス を掲示板のオーナーに開示させる?
 裁判とかではなくて一刻を争うのに? 調べたらケータイのGatewayのIPだった!
 今度は DoCoMoに聞かなきゃ だめか。書き込んだのはどこの誰の端末だ?
 緊急事態だから全部開示しろ! 端末の位置情報 も全部だ! わー、ケータイで助かったなおい。
 
 現在犯人(ホシ)は駅前へ移動中です。なんだと! すぐにパトカーで向かえ! 了解!
 現場に到着しました!犯人(まだ何もしていない)は 呑気にラーメン屋でギョーザ食って ました。
 ふざけるなー!!! 逮捕だ逮捕!何もしてないけど世間を騒がせた罪で逮捕だ!
 
 
というのが、日本全国でどのくらいの頻度で起こることを想定したらよいのでしょうか。
 
実はたったいま、そういうことになるのをsatoruさんが実証しました。
 
■警察に通報しまくってたら警察がウチまで来てしまった - satoru.netの自由帳
http://d.hatena.ne.jp/satoru_net/20080613/1213344343
でも流石にいちどに何度も通報するのは、迷惑がかかるらしく、
パトカーも地域に4台しかないから、むやみやたら通報しないでね♪と、
すごく優しい顔で言われた。(´∀`*)ポッ

予兆をいくら見つけても 対応のためのリソース が全く足りないやないですか・・・。
 
このため、警察の人件費を相当増やす必要があります。だってこれで 予兆があったのに
見逃した案件 なんてあったら、このシステムの有効性そのものが疑問なわけですから。
この対策費の総量は、きっと先ほどのサーバ費用とかチェックスタッフの人件費とかより
 
 桁が1つ多くなるくらい掛かるのは自明です。
 
 
ふぅ。
 
こういうのを サービスの「運用」 といいます。サービスというのは「運用し切ってこそ」
のサービスなのです。予兆を探知するシステムはほんの入り口にすぎません。
(なお、数字はすべていい加減です のであてにしないでください。あくまでイメージです。
 ちゃんとやろうと思ったらその5倍、10倍掛かっても不思議ではありません)
 
さて、もう一度我に返ってみましょう。
 
こうした運用体制をしっかり整えることで、こうした犯罪は減るでしょうか?
「え、そりゃ、総数はともかく、1つでも2つでも発見できれば価値はないとは
いえないんじゃないの?人命は尊いのだから」という意見もあると思います。
 
では逆に、実際に 犯行を起こす側の立場 に立ってみましょう。
このシステムが運用され始めてから、1年で3件、未然に逮捕される人が出てきました。
翌年はどういうことになるでしょうか。全てに絶望してヤケを起こして暴れまわるとしても、
 
 「そんなそぶりをネットに書くんじゃないぞ」 というのがセオリーに
 
なるのではないでしょうか。捕まるとわかってわざわざ 「今から実行しますよー」
なんて書くお人よしがいるとは思えません。そういう防止策がある社会では、
みんな黙って溜め込んで一気に爆発するようになるでしょう。
 
すると2年目からこのシステムは見事に、
 
 「コストは掛かり続けるけども、誰も網に掛からない」
 
という木偶の坊に成り下がることになるのです。あきれたものです。
次の対策は? 誰か何か考えていましたか? ネットから犯罪の予兆を探知しよう
という試みですよね? まさか「急にボールが来たので(QBK)」じゃなくて
 
 「前例と同じじゃなかったので(ZON)」 なんていいませんよね?
 
開発運用合わせて数十億円がこういう感じの木偶の坊になってしまうというのが
考えられるシナリオです。こういうことを踏まえて、実際に総務省の立場に立って、
「犯罪抑止に十分有効な対策システム」 としてこのシステムを立案してみてください。
さあどうでしょう。私が「それは馬鹿げてやしないか」といったのはそういうことです。
 
有る程度IT知識を持っている人であればここまでの想像は簡単です。
 
でも先の総務省の発言は、こうしたシミュレーションも行わずに
「監視すれば防げるじゃん?」 という楽観論でしか語っていなかったように思えます。
勿論、悲観だけしても仕方がありませんが、でも考えれば考えるほど、
どんなに頑張ってもなかなか決定打にならず、お金を湯水のように使った挙句
有効な効果は一向に出ない、という想像ばかりが出てくるのです。
 
ここでようやくsatoruさんの「予告in」が出てきます。先ほど私は頂上までの道のりの中で
五合目までは ネットとITの力を駆使すればたどり着ける、それを予告inは示すことに
成功したと述べました。satoruさんご本人がどう思っているかはわかりませんが、
satoruさんの作った予告inは、それを数十分で実現してみせたことで、
総務省の案にこうカウンターを浴びせます。
 
 
「このレベルまでは一瞬でしょ? 一瞬だったらすぐやろうよ。
 でもその先は すごい茨の道だよ? 本当にこの先に進む覚悟はあるの?
 まさか完璧を期すとかいって運用も含めて 何年も何十億円も 費やした挙句、
 成果はこの予告inと同レベル、なんてシステムを作って終わりとか言わないよね?」
 
 
私には予告inはそういう主張に思えました。構想は頂上までの登頂をぶち上げたけど、
実際にやってみたら 五合目までが精一杯でした と言い出されたらたまりません。
それなら先回りをしてクギをさすというのは、きわめて有効な一手になるでしょう。
 
「五合目までだったら一瞬でできちゃうのはもうみんなわかってます」
 
頂上はそれこそ 天高くそびえる難関 です。まさに 「未踏」 ですよ。
さぁ、勝算があるのならやってごらんなさい。
 
ここまで注目を浴びたのですから、無駄金に消えたらただでは済みませんよ?


2008/06/13 [updated : 2008/06/13 22:42]


この記事を書いたのは・・・。
CK@デジモノに埋もれる日々 @ckom
ブログ「デジモノに埋もれる日々」「アニメレーダー」「コミックダッシュ!」管理人。デジモノ、アニメ、ゲーム等の雑多な情報をツイートします。




« あまとも通信 - LUMIX TZ3 が最後の安売りか。TZ5とどっちを選ぶ?

トップに戻る

RD-X5 は結局「出張修理」を依頼 - あとはフタを閉めて待つだけ・・・ »


▼ はてなブックマークのコメント ▼

biaslook 2008/06/14
秋葉原通り魔事件
julajp 2008/06/14
そんな素晴らしいものがもしも出来たら、今度は結託して同時多発的に時と場所を指定して狂言テロとかおきちゃうんfでは。で、実際の犯行は全く別のところで起きるとか。予防監視は精度があがると別問題も。
tomity 2008/06/15
予告inに関する良い考察
swordheart 2008/06/15
さすがの分析
tinsep19 2008/06/15
ネットというかWeb2.0とかいわれる世界は、実はそういうアイデアで溢れています。理想が100だとしたら、100を作るのには100のコストが掛かるんだけど、50まででいいなら2~3のコストで出来ちゃうかもよ、という感じです
todogzm 2008/06/16
でもさ、個人的に難しいことランキング1位と2位が、「始めること」と「終えること」だと思ってたんだけど、その1位がマッハでできる世の中になってたのよね…。始めることの難しさは技術面より気持ちの問題か orz
tosyokan3 2008/07/14
理想が100だとしたら、100を作るのには100のコストが掛かるんだけど、50まででいいなら2~3のコストで出来ちゃうかもよ、という感じです。
はてなブックマークで
コメントしましょう


Vの数字:VTuberの配信のいまを「生配信」「編集動画」「ショート」の分類と配信時間から読み解く試み


【にじフェス】ライバーとリスナーが互いの「実在性」を確認し合った日 ~「にじさんじフェス2022」 in 幕張メッセレポート


「にじさんじ甲子園2022」熱狂を駆け抜けた1カ月。充実した「解説」がエンタメを加速する


トウカイテイオーと、#ウマ娘 でまた巡り逢った。テイオーを追ったリアルタイムの記憶。


映画は2回目が面白い! 僕らは鑑賞者という名の「共犯者」 ~映画鑑賞に於ける慣れと鑑賞技術の関係


「爆音上映」と「辛口ブーム」、映画の上映に於ける音量のラベリング


日本シリーズの最後のシーン(西岡選手の守備妨害)の解釈と、スポーツのルールとコントロール


モノクロレーザーのある生活 - とりあえず印刷(だ)して持って行く習慣


「スマートビエラ」が踏み抜いたというARIBの「放送の一意性確保」ルール


終わってしまった「Amazonガチャ」のサービス検証 - 変われる道はあったのか?


ドリフの思い出と"おとうさん"の言葉 - 「俯瞰的錯誤」のお年頃


「同い年の選手」が引退するニュース、そしてアニメの中の「おじさん」

ピックアップタグ




ブログ内検索



▼ コメント ▼

No.20214   投稿者 : ガウス   2008年6月14日 00:39

http://headlines.yahoo.co.jp/hl?a=20080613-00000084-mai-soci

もう既に実際の逮捕者が出ていますけど,何より心配なのが,書き込みしただけで逮捕されるリスクです.記事の事件も,警備のために警官を出したという事で一応業務妨害という事になっていますけど,ほとんど別件逮捕のような気がします.これって,超精度の悪いプリコグという事ですよね.

予知精度は悪いくせに,逮捕だけは一人前にやるというマイノリティ・リポートの世界ってどうなんだろう...


No.20215   投稿者 : ガウス   2008年6月14日 00:40

あぁ,すいません.逮捕はされていませんね.


No.20216   投稿者 : とおりすがり   2008年6月14日 03:09

中国のようにインターネットを規制すりゃ実現できるんじゃね?ww


No.20241   投稿者 : 匿名   2008年6月14日 19:23

未来の犯罪予防システム
マイノリティ・リポートの映画が思い浮かびました。


No.23454   投稿者 : 匿名   2008年9月 1日 23:10

で、予告inの成果をなんとか見出そうとした管理人は
予告inの惨状をどう見てるんですかね



★コミックダッシュ! 10,000人突破ありがとうキャンペーン!(9/18~10/23)
 
デジモノに埋もれる日々 : (C) CKWorks