この投稿は、Linkedin ニュースレター「Periscopio」の一部であり、毎週将来の問題を調査し、LinkedIn プラットフォームで事前に公開されます。 購読してプレビューしたい場合は、 ここですべてを見つけてください。
アルゴリズムはますます私たちの生活を支配し、選択を導き、日々を満たしています。 アルゴリズムは、ほとんどの場合、私たちの一般的なデジタル現実を支配する「隠された」ユビキタス システムです。
iTunesで音楽を聴いたり、YouTubeで動画を再生したり、Amazonで次の誕生日プレゼントを検索したり、Netflixでお気に入りの番組を視聴したり、Googleでニュースを検索したりするとき、これは利用可能なオプションを決定するアルゴリズムです。間接的に、あなたが最終的に消費するもの。
アルゴリズムは、私たちの現実のビジョンが正確な方向に落ちて終わる本当の「じょうご」を構築します。 Spotify がキャッチーな曲を見つけたときは素晴らしいことですが、ソーシャル プラットフォームが自由選挙の結果に影響を与えたときはひどいものです。
これは大きな影響力であり、慎重に計画され、世界のごく少数のプレーヤー、つまり大手テクノロジー企業によって保持されています。
アルゴリズムはこのように機能する必要がありますか？
アルゴリズムによって目標を達成することにはやりがいがあります。 それは、「その場で私たちを理解し」、私たちがいつも聞きたいことを教えてくれる、またはアドバイスしてくれる誰かが私たちの隣にいるようなものです. これが、人間がますます欲しがる理由です。 そして、企業はより大きな利益を保証するために彼らを採用します。 しかし、これだけでうまくいくでしょうか？ それはそうです？
質問はすでに出てきており、私たちはますます頻繁にそれを行い、このブログの読者でさえそれを恥ずかしがりません： 人工知能アルゴリズムの悪影響からどのように身を守ることができますか？
ソーシャル メディアの使用を制限したり、アカウントを削除したりすることもできます。 可能な限り、または少なくとも月に数日はオフラインにすることができます。 偽のニュースや嘘に惑わされないように、新聞で広範な調査を行うことができます。 確かに、犠牲を払ってでもできますが、できます。 しかし、なぜそれは私たちだけに依存しなければならないのでしょうか?
なぜ私たちは自分たちですべてをしなければならないのですか？
テクノロジー企業自身がしなければならないこと、状況を改善するためにやらなければならないことがあるに違いありません。 全体像に疑問を投げかける必要があります。全体像は次のとおりです。アルゴリズムは、心理的な脆弱性を利用して時間と注意を占有するように本質的に設計されています。 点。 これはそれです、それは真実です。
特に、ソーシャル メディアでの絶え間ない喧嘩と小さな「いいね」の満足の間で成長してきた新しい世代にとっては、深刻な問題です。 また、ブラウジングを控えたり、別の習慣を身につけたり、その他の努力をしたりすることを控えるようにお互いにアドバイスすることは、テクノロジー企業がアルゴリズムをますます悪用し、ますます悪用し続けることを受動的に受け入れることを意味します。
尋ねるべき本当の質問は別です。 問題は、アルゴリズムがウェルビーイングではなくエンゲージメントに最適化されているのはなぜですか? そして、この状況を変えるには何が必要でしょうか?
幸福のアルゴリズムが欲しかった
適度な作業量で、アルゴリズムを修正して、私たちのデリケートな心理を悪用するのではなく、保護および強化することができます。 アルゴリズムは、インタラクションではなく、ウェルビーイングを改善するようにトレーニングする必要があります。
物事がどのように改善されるか想像してみてください。
明らかに、ビッグテックはそれについて考えさえしていません. ソーシャルメディアの巨人の誕生を見た元フェイスブック社長のショーン・パーカーは、 彼はずっと前に言った プラットフォームの主な目標は、ユーザーの時間と注意を最大限に活用することでした。
そうだよ知ってるでしょ。 目標は利益です。 そして、通貨は私たちの注意です。 結果は？ バックグラウンドで。 彼らが何をしているのかを知っているか、限界点に達するまでブレーキをかけずに移動しているかにかかわらず、テクノロジー企業は私たちに損害を与えており、責任があります.
AI倫理の重要性
もちろん、(明らかな) 良いニュースもあります。AI の倫理とオープン ソースの共同イニシアチブの出現は、これらの企業にいくらかの圧力をかけています。 彼らは現在、プラットフォームの改善へのコミットメントを示すためにできることを行っています. グーグル、フェイスブック、マイクロソフトなどは多くの社会科学の専門家を雇っている - 目標は? 彼らの技術を人間化します。
最初から障害に直面する明らかに困難な作業：私たちは皆覚えています ティムニットゲブル、人工知能の「人種差別」をドックに置くことで、2020年にGoogleによって認可された倫理の専門家。 この種の一時解雇はこれが唯一でも最後でもありませんでした。 続いて2021年 マーガレット·ミッチェル、同じGoogle倫理チームから。
それでも、これらの専門家は、テクノロジーの潜在的なリスクを分析するという、彼らが雇われた仕事をしたために解雇されています。 つまり、企業の主要な計画に干渉しない限り、倫理の専門家を雇っても問題ありません。
AI の倫理は、専門家が自分の仕事を遂行できない場合、つまり、彼らが働いている企業に力を与えることができない場合、持続不可能なビジネス慣行になります。
利益よりも人を優先する
過去数年間、これらの企業の評判と公共イメージは、これらの選択により大幅に低下しています. そして、ますます多くの研究者が、これらの巨人の経済的目標に従わずに、技術の倫理に取り組み続けるために団結しようとしています.
そして多分それは最善です：彼らの問題が純粋に経済的であるならば、ハイテク企業は彼らの倫理チームに本当に耳を傾ける可能性は低いです。 倫理を導入しても利益が減らない場合は、そうでない場合は、これらのチームが機能しなくなるでしょう。
このため、ティムニット・ゲブル自身が 分散型人工知能研究所 （DAIR）とマーガレット・ミッチェルは、 ハグ顔 .
内部の倫理チームが本当の仕事をすることができない場合 (そして、彼らができないことは、私には明らかなように思えます)、外部に解決策を求めたほうがよいでしょう。
救世軍
前述のように、人工知能の分野でますます多くの取り組みが見られますが、大手テクノロジー企業以外では. 「アルゴリズムドミノ」の運命を逆転させるために集団的および個別に取り組んでいる被験者がいます。前述のDAIRとHugging Faceに加えて、 ビッグサイエンス, エレウテライ e モントリオールAI倫理研究所 、とりわけ。 イタリアには イタリア人工知能倫理協会。
おそらく、真の政治的重みと力を持っている人々でさえ、私たちの未来を手にしている社会を監視する上で、より積極的な役割を果たす時が来たのでしょう。
人間を中心に構築されたアルゴリズム
この点に関して、ユネスコは 推奨事項のセット すべての AI アルゴリズムが人間中心であることを確認します。
「これらの新しい技術が人類全体に利益をもたらすことを保証するために、国際的および国内的な規則と枠組みを作成する必要があります」と文書には書かれています。
「今こそ AI が人々に奉仕する時であり、その逆ではない」
「人工知能はすでに私たちの生活に影響を与えています。 この分野には、早急に対処する必要のある法的ギャップがいくつかあります。 最初のステップは、どの価値を保護し、どのように規制を尊重すべきかについて合意することです。 多くのフレームワークとガイドラインがありますが、それらは不均一に適用されており、真にグローバルなものはありません. そして、人工知能はグローバルなので、私たちもそうでなければなりません」.
世界へのコミットメント
ユネスコ条約は、わずか7か月前の24年2021月XNUMX日に承認されました。これは、法務分野で活動する企業を超強力な技術で管理するための基本的な第一歩です。
中国はまた、アルゴリズムの力について人々に説明責任を負わせる前例のない規制への道を開いた。 1月XNUMX日、中国政府は、テクノロジー企業に対する意思決定力を人々に与えるための措置の中でもとりわけ、ユーザーがアルゴリズムの推奨を完全に無効にすることを許可する法律を発動しました。
人工知能の倫理が世界の規制機関の注目を集めているという事実は、それが個人および集団の幸福にとってどれほど重要であるかを明らかにしています。 私たちは、私たちを病気にする「病気の」アルゴリズムをウェルネスアルゴリズムに変換するための検索の始まりにいますか?
わからない。 しかし、私たちは何としても試さなければなりません。
