「失敗」タグアーカイブ

履歴書の機械学習が女性差別になってしまい、Amazonが止めたというニュース

ロイターの記事 “Amazon scraps secret AI recruiting tool that showed bias against women

アマゾン社の中の人による匿名の情報ということだけれど、2014年に組まれたチームが、求職者からの履歴書を機械学習して(アマゾンレビューのように)星5つでランク付けをしたら、ソフトウェア開発者や他の技術者の高評価が男性に偏ってしまうことに気づいた、ということです。

学習に使った過去10年の求職者に占める男性の割合が多かったために、男性的な言葉を多く使った履歴書が優秀とされてしまったそうです。入力にバイアスが掛かってれば、結果にも掛かるのはある意味当たり前ですね。アマゾンに限らず、アメリカのIT企業で社員の男女比や有色人種比率が公表されたり比較されたりしている中で、これまでのやり方をベストとして強化すれば、属性にこだわらず優秀な人を取るということができなくなってしまいそうです。

記事によれば、結局、このチームは解散となったということ。今は別のチームで、重複したデータを削除するとか、多様性が保たれるようにスクリーニングするとか、よりマイルドな使い方を追及しているということです。

「機械に解雇された」人の体験談

The Machine Fired Meは、イブラヒム・ディアジョさん(Ibrahim Diallo)がブログに綴った、突然会社から解雇された時の体験談です。

3年契約で半年以上働いていた会社で、突然以下のようなことが起こったということです。

  • ある朝、現職を紹介してくれた転職業者から「大丈夫か?」とメッセージ
  • 社員証がオフィスの入り口でエラーになった(なじみの守衛に通してもらった)
  • 翌日、駐車場のゲートが社員証で開かない(係員のカードで入った。翌日からはUberで通勤に)
  • 上司に壊れた社員証の再発行を依頼。臨時の当日社員証を印刷してもらう
  • JIRA にログインできなくなる。同僚は入れて、自分のユーザー名に(inactive)と表示されてることに気づく。上司は驚き、アカウントの復旧をどこかへ依頼
  • 転職業者から「あなたが解雇されたというメールを受け取った」と連絡
  • 翌朝、臨時社員証が発行できなくなった、と守衛に言われる。上司下まで迎えに来る
  • 部長に「自分は解雇されたのか?」と訊く。部長は笑ってどこかへ電話、今日中にはすべて直ってるので仕事するように、と
  • 自席のWindowsが自動で再起動され、ログインできなくなった。仕事用のCentOSマシンで作業する
  • 部長は「明日も出社するように」と言ってくれたが、翌朝は自分のLinuxマシン以外のあらゆるアカウントにログインできなくなる
  • ランチ時に、顔なじみの守衛2人がやってきて、無理やり社外に追い出される
  • 上司も部長も、ディアジョ氏を建物外へ出せ、という脅しのようなメールを受け取る
  • 続く三週間、自宅から上司や部長よりもっと上の人たちがやりとりするメールの議論をCCで受け取り続けるが、誰もこの問題を解決できない

3週間経った後で、転職業者から「また出社できるようになった」と連絡を受けますが、3週間家にいた分の給料は無し。

会社の説明では、一度解雇プロセスに入ってしまうと、システムが次々と解雇のための手続きを自動的に進め、カードを無効にしたりアカウントを止めたりするようになっているということ。一つの処理が次の処理を呼び出し、途中で止めることはできなくなっていると。

止められたアカウントを復旧する方法もないので、ディアジョ氏は「新しい契約社員」として採用されなおすことに。最初の入社時に書かされたあらゆる書類を、もう一度書く羽目になったそう。

解雇のプロセスが決して止まらない自動作業だったことは置いておくにしても、なぜそれが誰も問題にしていないディアジョ氏に襲い掛かったか、という点については、採用直前にこの会社がより大きな会社に合併された際の、レイオフされた前任のマネージャーの作業放置の結果、ではないかということだそうです。

ディアジョ氏は結局、良く貢献もし周りから感謝もされていた職場で、捕まった泥棒のようにビルから追い出されるという体験をしました。その影響で、なぜそんなことになったかという経緯を周囲に説明したり、一部の人たちからは距離を置かれたりしたりして、最終的にはしばらくしてその会社を退職、今の会社に移ってしまいました。

昨年身の上に降りかかったこの一連の体験をやっと落ち着いて話せる気分になったそうで、今回ブログで公開した、ということです。

What I called job security was only an illusion. 安定した職業、だと思ってたものは幻影に過ぎなかった

と結ぶ彼の話、会社員にとっての一つの悪夢でしょうね。

via BBC and TheNextWeb

仮想通貨発行元「仮想通貨プレゼント当選者は以下のみなさんです」仮想通貨発行元「やった当たった!」

仮想通貨ウォルトン(WTC)の発行元ウォルトンチェイン(Waltonchain)が、仮想通貨が無料で貰えるプレゼントキャンペーンの発表で大きな失態を演じたそうです。

Waltonchain 「おめでとうございます! バレンタインデーの$WTCを貰おうキャンペーンの当選者の発表です。」

Waltonchain 「やった! まさか当たるなんて! ありがとうウォルトン! これからも頑張って」

フォロワー 「????」

公式が当選の喜びの声を上げた! どうして?

どう考えてもインチキとしか思えないですね。当選者となる身内のニセアカウントを用意しておいて、そこを当選させれば一銭も掛からずに宣伝ができるというわけ。

この喜んだ方の公式ツイートはすぐに消されたようですが、スクリーンショットが複数のユーザーによって撮られていて、あっという間に広まってしまいました。

Waltonchain は以下の公式声明を出します。

「(略)抽選はスクリプトで公正・ランダムに行われました。(中略) このチームメンバーはたまたま抽選に参加しており、間違ったアカウントで喜びをつぶやいてしまいました。チームメンバーの参加は禁じていますのでこのメンバーの当選は無効します。ほんとうにすいませんでした」

公正な抽選の「証拠」として、
インスタグラムで「公正な抽選の様子」なる動画を公開しましたが、

View this post on Instagram

video of the winner selection script Congratulations!

A post shared by Waltonchain (@waltonchain_official) on

こんなの、こういう表示をするスクリプトを書けばいくらでも作れちゃうと思います。

まあ仮想通貨に固有の話ではなく、こういう自作自演の失敗はこれまでも繰り返されているのですが、それにしてもひどい話ですねえ。

via reddit

Loren ipsum ワインラベルの失敗

Imgur に載ってたワインのラベル写真。「ラベルに Loren ipsum が(this wine has Loren ipsum text printed on it)」

this wine has Loren ipsum text printed on it

ラベルの下から2つ目、一番小さいフォントの文字が、確かにデザイン時にダミーの文章として使われる Loren ipsum… になっていますね。

しかし「投稿者がちゃんとした本物のラベルを自分で改造してネタを作った可能性もあるかな」と思って(われながら猜疑心が強い)、ラベルの名前から当該ワインを探してみました。イタリア、ヴェネト州のワインGrandi Mori Veneto Chardonnay の 2011 年物のようですが、このサイトの写真では Loren ipsum なのか他の文字なのか細かくてわかりません。

さらに検索すると、所蔵ワインをブログで記録している人がいて、もうすこし大きなエチケットの写真を載せてくれていました。

本当に Loren ipsum でした。

ローマンアルファベットを使わない国のワインなら、うっかりダミーのままでもなかなか気づかずにチェックを通ることもあるかと思いますが、イタリア人でも読まずに通しちゃったりするんですね。

正式に顧客に提出する前に、ファイル内に Loren ipsum が無いことをチェックする機能を編集アプリに持たせる、なんてのも有りうるのかななんて思いました。

濃霧の中、GPSの指示通りに車で五大湖に突っ込んだカナダ人

霧の深い夜に、有視界運転を諦めてGPS「だけを」頼りに進もうとした23歳の女性が、車ごと湖(五大湖の一つヒューロン湖)に突っ込むという事件があったそうです。

national-post-canadian-woman-plunges-into-lake-by-gps

オンタリオのトバモーリにあるリトルタブ港、ということで、上の写真からしてもこのへんですかね。

湖に落ちてることに気づいたドライバーは、窓を開け、財布も持って4℃の水中から無事に脱出したそうです。その後、沈んだ車も引き上げられたとのこと。不幸中の幸いってこういうのですね。

自動運転車でも、精度がそこまで頼りにならないGPSの情報だけで走行したりはしないと思います。機械を過信しすぎるのも問題かなと。

「メンバーのセックステープ流出」という作り話で新曲の宣伝をしようとしたバンドが大炎上

ロスアンゼルスのバンド YACHT(ヨット) が昨日フェイスブックで発表した内容は、驚くべきものでした。

yacht-on-jezebel

要約すると「2006年から音楽および恋愛のパートナーでもあるメンバーの男女、ヨナとクレアがプライベートに撮影したセックス動画が、技術的な間違いと、とある卑劣な人物のために一般公開されてしまった。流出した動画を見ないようにしてほしい。」ということです。

フェイスブックのコメントは、バンドのファン達や事件を知った人からの大量の応援コメントが送られました。しかし、その応援コメントを受け、 YACHT はさらにコメント欄で驚くべき提案を始めます。

「我々はこの動画を直接みなさんに配布できるじゃないか、と考えるに至りました。」

「流出してしまった動画を無くすことはできないけど、動画の所有権をある意味取り戻すことはできるんじゃないか。」

「もしあなたがこの動画を観なきゃならないとしても、どこかの動画サイトやトレント経由じゃなく、我々から直接観てほしい」

ということで、急遽友人が作ってくれたというサイトへリンクが紹介されます。リンク先のページでは、5ドル(560円)払って本人達が公開した動画を観られる、という作りになっていたそうですが、手続きを進めてもエラーになるばかりで、動画に辿り着くことはできなかったようです。ただし、彼らバンドと交友がある他のミュージシャンらの中には、動画を「見た」とソーシャルで語る人何人いた模様。(これらのツイートはすべて非公開または削除されている模様)

今日になって、初報を広める記事を書いたメディアの一つJezebel が報じたところによれば、実際に流出した動画などそもそも存在せず、このバンドの新曲のプロモーション活動としての作り話だということがわかりました。このメディアの別の担当者が、4月上旬にこの作り話によるプロモーション活動をやるよ、という予告のメールを受け取っていたそうです。

動画販売ページは、現在は謝罪ページに切り替わっています。

「私たちは簡単に作り話とわかるものを作りました。興味、懐疑、笑いを受け取れるものと思っていましたが、次々と寄せられる純粋な支援や、すごい速さでここまで広く報道されてしまうことについては予想できませんでした。

ドラマXファイルズに出てくるような、ゆっくりと広まる都市伝説として公開した、SF、注目経済、クリック狙いのジャーナリズム、そして有名人のセックステープ流出、などの要素を組み合わせたプロジェクトだった、とも言っていますが、言い訳成分が多くてあまり真摯な謝罪には見えません。

「みなさんを騙すにはもっと努力しないといけないようです」などと書いたばかりか、ポルノサイトの Pornhub に自分たちの音楽ビデオをアップロードし、そこにリンクを張って「動画はここで見られます」などと書いています。謝罪文の中でですよ。

実際に被害者がいるような事件をネタにしてネットの注目を集めようとしたことに対して、当初の共感の反動からか、元のフェイスブック記事のコメントを始め、他のソーシャルメディアでも、担がれた各メディアでも、大きな非難の声が上がっているようです。

バンドの公式PR会社のツイッターは、今回の件に自分たちは絡んでない、と発言しています。

これが嘘だったら後々大変なので、たぶん合ってるんでしょうね。バンドのメンバー自身が企画して実行した、と。

どうしてこんなやり方が問題にならないと思ったのか、不思議なぐらいダメな宣伝手法だと思いますが、どうでしょうね。バンド名は売れたし、(音楽の)動画を観に行く人もいるでしょう。こういう釣りの手法は応援したくないのでリンクは張りませんが、もう二度と相手にされなくなるか、こんな方法でも生き残ったりするのか。