ジョージア大学のデータ サイエンティストによる新しい研究は逆説的です。
アルゴリズムが日常生活に侵入することへの懸念が高まっているにもかかわらず、特にタスクが困難になった場合、人々は仲間よりもコンピューターを信頼する可能性があります.
プレイリストの次の曲の選択から適切なサイズのズボンの選択まで、人々は日々の意思決定を行い、生活を簡素化するためにアルゴリズムのアドバイスにますます依存しています。
アルゴリズムに尋ねる
「アルゴリズムは膨大な数のタスクを実行でき、その数は実質的に毎日拡大しています」と彼は言います。 エリック・ボガート テリーカレッジオブビジネス経営情報システム学科。
タスクが難しくなるにつれてアルゴリズムに頼る傾向があるようで、その効果は他人のアドバイスに頼る傾向よりも強い.
ボガートは経営情報システムの教授と協力しました リック・ワトソン そして助教 アーロン・シェクター 紙の上 本日、Nature の Scientific Reports に掲載されました。
研究
この調査には1.500人が参加し、人々がアルゴリズムと対話して情報を処理し、意思決定を行う方法と時期を分析する、より大きな一連の作業の一部です。
この研究では、チームはボランティアに群衆の写真に写っている人の数を数えるように依頼し、他の人のグループによって生成された提案とアルゴリズムによって生成された提案をサポートしました。
写真に写る人数が増えるにつれて、カウントが難しくなり、人々は単独でカウントしたり、他の人の提案に従うのではなく、アルゴリズムによって生成されたプロンプトに従うようになりました.
信頼できるアルゴリズム
シェクターは、写真に写っている人の数が増えると、タスクが客観的に難しくなるため、テストタスクとしてカウントするという選択が重要であると説明しました。 それはまた、誰もがコンピューターが得意であることを期待している種類のビジネスでもあります。
これは、オブジェクトを数えるよりも偏りがちですが、人々がコンピューターを得意と感じるタスクです。
アーロン・シェクター
中毒はリスクです
「AI に関する一般的な問題の XNUMX つは、クレジットの付与やローンの承認に AI を使用する場合です。考慮すべき多くのパラメーターがあります (収入、または「信用状態」など)。これにより、AI はアルゴリズムにとって良い仕事になります。.
ただし、アルゴリズムへの依存はリスクです。 私はもっと言います：それは私にとって悪いかもしれません。 おそらく考慮されていない社会的要因のために、差別的な慣行につながるからです。
のアルゴリズムについて聞いたことがあるはずです。 顔認識、そして彼らがどのように起訴されたか。 それらの使用は明らかにした それらが構築された方法における文化的偏見、顔をIDに一致させたり、適格な候補者を選択したりすると、不正確になる可能性があります。
ただし、カウントなどのアクティビティには存在しない可能性のあるバイアスは、意思決定を行う際に人々がアルゴリズムにどのように依存しているかを理解することが重要です。
相互信頼
前述のように、この研究は、米陸軍研究局が資金を提供した、人間と機械のコラボレーションに関するシェクターのより大きな研究プログラムの一部でした。
最終的な目標は、意思決定を行っている人間と機械のグループを観察し、どうすればお互いを信頼できるようになるか、またそれによって彼らの行動がどのように変化するかを突き止めることです。
その文脈での研究はほとんどないため、研究者は実質的にゼロから始めました。 シェクター、ワトソン、ボガートは現在、人々が創造的判断や道徳的判断を行う際にアルゴリズムにどのように依存しているかを研究しています。 例の中で？ 説明的な一節を書くか、囚人の保釈を修正します。
