これただの差別にしかならないやろ？何考えてるんだ。。。

あと，記事 のスクショを見たら評価関数に性別や国籍が陽に入っているので，差別問題の例でもある

どうでもいいけど誤解を生むデータなのだ。

「同社によると、不動産賃貸では、市場平均で毎月8.2％の家賃滞納が発生しており…」

これこそ、不動産テック！！

説明変数少ないのに、わざわざAI（って何？）を使う意味ある？ただAIって言いたいだけ案件多過ぎ。バカ相手にお金引っ張れるならいいのか、、、

最近の記事見つけた。成果は載ってない

家賃滞納を予測するAIの件。
令和2年改正の個人情報保護法ガイドライン3-2の、不適正利用禁止(法16条の2)の具体例の「裁判所の公告の情報を収集したDBで、本人への差別を助長するもの」(破産者マップの事例)に該当するのでは？

「家賃を滞納しそう？」AIが予測 入居審査

うーん…どうなんだろうな。これが何かしらの分断を生んでしまいそうな…。

この仕組みは大丈夫なんですかね？

責任の所在がハッキリしないのと
（レベル3の自動運転のようなイメージです）

人種差別みたいな、変なバイアスが掛かって、難しいと思うので。

自分以外の人間のデータから自分を判断されちゃう。

むっかつくわぁー😤

AIみたいに賢くないぼくにもわかるで。３つ条件があるんや。
①有り金は全部使ってしまう
②風俗通い
③部屋にグッズが溢れてる

Not Goodな使い方。これは差別助長＆社会の底辺を拡大する技術の誤った使い方です。
滞納する人がいなくなる社会を作る方に思考が向かえばいいのですが、これを考える人には無理でしょう。

こんなの出回っていいのかな？ 差別を固定化しそうだと思うし、「滞納しそう」の設定が偏見から始まってたら本来関係ない人にも被害が及ぶと思うから、相当やばい。
設定は明らかにされるべきでは？
あと、自分が関係なくても、これを導入しているところは使いたくない。

リクルートの内定辞退予測がなんで批判されたのか、まったく理解されてないのか……。
審査を受ける側の不利益が著しい分野で、レッテル貼りにAI活用しちゃ駄目なんだよ。

これは非常に良くないAIの使い方。以前から指摘されてる人種的偏見などデータのバイアスと同じ問題だと思います。／

「この人、家賃を滞納しそう？」AIが予測

このAIを搭載した「入居審査支援ツール」のβ版を、家賃債務保証会社10社限定で無料提供する。同ツールを使えば、紙ベースの審査では45分かかっていた入居審査を16分に短縮できるという。

果たして、どこまでが「選別」で、どこからが「差別」になるのか……。

うーん‥‥

逆に滞納しそうでも頑張っている人は、ダメな人と同じと見なされて2極化から抜け出せなくなりそうだね・・・うーん・・

こーいうのやめてよ。
AIにどんなデータを学習させるつもりだよ？何も考えずに学習させたら結果は火を見るより明らかでしょ。まさかと思うけど［AIは公平］と思ってる人、沢山いるの…？

滞納しそうな場合って保証会社つけてもらうのかな？
その場合の保証会社の利用料金って結構高そうではあるけど

カード支払いにさせてくれれば、滞納とか無いんやで
(受け取る方は)

こんなところでもAIかぁ

ワロタ

予測精度7割を超えた…んー？まぁ人間がやってもそのくらいだろうし、多少は工数が減った分良かったのかな？

間違いをどう担保、補償するのか？

こういうのが浸透すると，
甲「AIが正しいっていうからやりました…」
乙「お前はAIが死ねといったら死ぬのか！」
という会話がいずれ聞かれるだろう

おいマジか
性別や国籍も滞納予測の判断材料て、絶対ダメだろこんなん👎

「家賃保証サービスなどを提供するリース(新宿区）は、賃貸物件に申し込んだ人の属性などのデータから、家賃を滞納する可能性がどれぐらいあるかを判断するAI「滞納予測AI」を開発した。」

「この人 家賃を滞納しそう？」AIが予測 入居審査を45分→16分に


賃貸物件に申し込んだ人のデータから家賃を滞納する可能性がどれぐらいあるかを判断するAI「滞納予測AI」が実用化へ。

精度70%だと審査判断悩むケース出てきそうだけど時間を1/3に短縮できるのは申し込む側もメリットあっていい

ヘイトAIじゃ

つまり今までも当然のように国籍と性別で統計的差別してたと。

これ、行き着く先は映画「マイノリティリポート」の世界だよね -

いかにIT系メディアとはいえ危険性への批判的視点が皆無どころか大日本帝国万歳レベルか

Win95発売〜インターネットメディア誕生の頃からネット系記者・ライターの質の低さを危惧していたが、遂にココまで

>

いわれのないレッテルを貼られないように:

予測精度は、70％を超えたという。

3割の、いわれもない審査落ち、もしくは今までダメだったけどOK、になった人複雑笑
コインの表裏の20%増し程度

経験と勘でやるのは、あんま意味ないと。

精度70％は微妙だけど今後に期待。
結構興味深い。

AIの学習・情報更新を加速させて予測精度をさらに上げるため、β版を限定的に無料提供

面白そうw

誤爆したら大問題になりそう

不動産テックはこういうところに価値が出そう。

機械学習の暗黒面

こういうSaaSができることで、家を借りたくても借りられない人が出てくる。そのことに想像が及ばない人たちが多い。テック界隈の人は「社会を変える」と耳障りの良い言葉を言いがちだが、本当に「良い方向」に社会を変えているのか、考えてほしいと思う。

こんなんええんやろか怖いよな。。>
年齢や雇用形態、年収など9項目の情報を入力するだけで、滞納発生度合いと滞納発生時期の予測を表示する。

「延滞を繰り返す属性の特徴量から滞納発生の予測精度は、70％を超えた」

やばやば案件出てきたなあ

＞年齢や雇用形態、年収など9項目の情報

公務員と大手企業の正社員のみ賃貸物件を借りられる時代が来ると。

AIが入居審査をする時代。予測精度70%で滞納可能性を診断。

これ、入居が難しくなるんじゃないか

AIでそんなコトが予測できるんだ
精度7割か…あくまでも補助的な使い方をしてもらいたいところよね

使い方次第ではあるけど、ディストピア感が漂いますね。
「この人、家賃を滞納しそう？」AIが予測

例えば先の家賃滞納可能性AIが
「あなたは年収X00万円以下の若者で外国人で独身なので滞納可能性が70％あり駄目です」
と「説明」された時に詰むような？
そこで情報源を「制限」すると人間による審査の精度も下がるという……

これを差別だと騒ぐ人がいるが、今まで人間が個別にやっていた審査は何なのか。可視化されたから怒っているだけだよね。
＞

そもそも同じことを人間の脳と手でやっている現状。保証人を立てられずに保証会社を使う人は今後も増える。

家賃保証を請負う仕組みだけど、会社としては賃料立替コストは減らしたい。営利目的だから当然のこと。

住まいを市場に委ねすぎている。
問題の根本はそこだと思う。

「うちはAIで判断しません」が差別化になって繁盛したりしてw

シビュラシステムも近いな

このシステム使えば宅建免許不要だな

家賃滞納しそう人を予測のAIか🤯
自分はしっかりと支払ってますよ（笑）

ホームレス増殖案件

「あなたは家賃滞納しそうだからお貸しできません」なんてのは面と向かっては言いにくいから、機械の判断ってことにしてなるべく穏便に断ることができるシステム。所詮データを入れてるのは人間だから。

就活生のデータから辞退率が割り出されたことを思い出した。怖い。

これ、酷い話だと思います。居住権を奪いかねませんしホームレスの方も増えるかもです。
AIだから安心なんてことは全くないですし不当な理由で却下されている可能性もあります。何より自分自身がその対象となる可能性なんかいくらでもあることに気付いた方が良いと思います。

保証会社の審査通らなくて、ジモティで家探しする人が増えちゃう。😈

アウト？貸す側は「AIがそう判断したんです」というんだろうけど。

こんなことまでAIで(゜o゜)

で書いたように与信の話と差別の問題は違うと思うけど、性別や国籍が判定項目に入っているからこれは差別の問題だと思う。AIは関係ないかな。

まあ属性による差別なんだけど、そもそも金のない人間が部屋借りられないのも合理性が高いから問題にされてないだけで差別だからそこんとこ忘れないでくれよな

これすごいな。そして借りられない人が増えそう👉

fairness aware machine learning講義のネタがまた一つ爆誕しててニコニコしてしまった

これはダメだろう。入居希望先家賃と年収・貯金額で見るぐらいならアリかもしれないけど、国籍や性別などの属性が入ってるのはアウト。

発達障害を効率的に炙り出す装置かと思ったら違った😅

家賃保証サービスが与信業務にAIを導入することが、ここまで注目を浴びるとは思わなかったな。

与信のために統計モデルは昔から導入されているけど...

この国の不動産業には不信感があるのでそもそもの「45分」に信用がない。

いや……過去に家賃を滞納した人に属性が似てるからって、その似ている人も家賃を滞納するとは限らんやろ。
こんなの、かっかりんは北九州出身だから身内にヤクザがいるかも並の色眼鏡やぞ。

これは……

ちゃんと調べず "素朴" にやると差別になる事例だ。

AI「24歳なのに学生・・・妙だな？」

ウケる

EUが“説明可能なAI”の実現を重点課題としているのって、こういうケースで差別的待遇を防ぐためでもあるだろうな。

なるほど、これは良くない🤔

見てる: "

これ、すぐに銀行の審査とかに応用しようって言って、本当にやるところが出て大問題になると予想
（まずは上司とかが言い始めるところから地獄がはじまる感じ）＞

「年齢や雇用形態、年収など9項目」

完全なAI差別ですね。

「予言の自己成就」めいた形で「精度」が上がつてしまふことが一番の懸念事項といふ気がする（しかしこれは「AI」なのか？）。：

単なる与信審査なので、クレジットカードとかローン審査と同じだから騒ぎ立てるほどのもんではない気が。入居希望者に「あなたの属性情報を使って審査しますよ」と事前承諾を取ってからサービス使おうねというだけ。内定辞退率の件は無断で使おうとしたのが問題なわけで。

📩審査を45分→16分に。家賃滞納をAIが予測


・「入居審査支援ツール」を10社限定公開
・年齢や雇用形態など9項目から、AI予測
・滞納発生の予測精度、70％超を記録

これは不動産業界には、嬉しいツール。こういったAI審査は、他の分野でも、当たり前になっていきそう。
▼

こんなものを採用する不動産屋は潰れろ

就活で問題になった、「この人、内定辞退しそう」というのと違わないような…

うっかりした滞納はそうだけど、数ヶ月以上にわたる滞納は1%以下です。有用性をいうにしてもだいぶ盛ってますね。そして競うべきは早さではなく、確度です。〇〇%の精度で当たりますと。

AI とは所詮畢竟 Artificial Idiot だという、さらなる確認事例✨

、人権や倫理に抵触するツールを放置しておくことは、むしろAI関係者にとって自殺行為であることを認識すべき

70%の精度ですか、、低く感じるが。

AIが決めつけた未来予測により、人の人生が狂うディストピアが今、始まる。

AIでもなんでもないよな…。

色々と議論を呼びそうな話ですが、紙ベースでやってた審査をAIに置き換えるだけなので、判断のロジックが見えにくくなるのが１番の問題と言えば問題では

ヤバい。7割の精度と言うが残りの3割は無罪なのに滞納者レッテルを張られ入居拒否されるのか。 モデル更新も、そもそも現条件で合格した人から滞納率を学習していくなら学習するたび条件は厳しくなるのでは？

この手のAIはただの差別助長装置じゃないの？

『同社によると、不動産賃貸では、市場平均で毎月8.2％の家賃滞納が発生しており、家賃債務保証会社の利用率も年々高まっているという』