ビッグデータと危険性
ビッグデータと聞いてそれが何なのかを説明するの
は難しい。と言うよりも私はよく解っていない。と
にかく大量のデータを集め必要な情報を取得すると
予想するのだが従来の方法と何が異なるのだろう
か。
2018年2月4日の東京新聞朝刊にビッグデータとAI
に関する記事があった。
「おそろしいビッグデータ」(朝日新書)著者の山
本龍彦・慶応大教授がビッグデータの危険性を述べ
ていた。私が衝撃的だったのは下記二点である。
=======================
・ビッグデータとAIは社会に有用な面もあるがそこ
から漏れるケースもある。就職活動を例に、一度
NG判定を受けた人は同一システムを採用した他社
からもNG判定を受ける危険性がある
・AIは時間が経過しデータを蓄積することにより高
度になるがそのアルゴリズムは複雑になり過ぎ、意
思決定過程が製作者にも理解できなくなる恐れがあ
る
=======================
他にも読むべき内容がこの記事には多い。どうだろ
うか。これらの危険性は恐ろしい。AIを使ったプロ
グラムや機器の製作者でさえその中身を理解できな
くなるとは。AI判定から弾かれた者は就職、保険、
様々なことから排除されかねない。ビッグデータは
共有される可能性もある。すると一度不合格のラベ
ルを貼られると永遠に不合格とはならないだろう
か。
またそのデータが盗難、流出、改ざんされる危険性
も無視できない。更には、とてつもない量のデータ
であるとの前提に立つと不合格者に関連する者は不
合格者関連者と言うラベル付けも可能である。
AIを利用する者はこう言うだろう。全てAIを利用
するわけではなく適切に利用する、と。
しかしその詳細はブラックボックスであり企業秘密
や個人情報という便利な言葉で隠されてしまうだろ
う。何しろ製作者でさえも理解できない物になって
しまう可能性があるのだから。
この記事を考えるとこの本に興味がわく。
一度読んでみることにした。