ジョージア大学のデータサイエンティストによる新しい研究は逆説的です。
アルゴリズムが日常生活に侵入することへの懸念が高まっているにもかかわらず、特にタスクが困難になった場合、人々は同僚よりもコンピューターを信頼することをいとわないかもしれません。
プレイリストの次の曲の選択から適切なサイズのズボンの選択まで、人々は日々の意思決定を行い、生活を簡素化するためにアルゴリズムのアドバイスにますます依存しています。
アルゴリズムを尋ねる
「アルゴリズムは膨大な数のタスクを実行することができ、その数は事実上毎日拡大しています」と彼は言います。 エリック・ボガート テリーカレッジオブビジネス経営情報システム学科。
タスクが難しくなるにつれてアルゴリズムに依存する傾向があるようであり、その効果は他の人のアドバイスに依存する傾向よりも強いです。
ボガートは経営情報システムの教授と協力しました リック・ワトソン と助教授 アーロン・シェクター 紙の上 Nature's ScientificReportsに本日公開されました。
研究
この調査には1.500人が参加し、人々がアルゴリズムと対話して情報を処理し、意思決定を行う方法と時期を分析する、より大きな一連の作業の一部です。
この研究では、チームはボランティアに群衆の写真に写っている人の数を数えるように依頼し、他の人のグループによって生成された提案とアルゴリズムによって生成された提案をサポートしました。
写真を撮る人の数が増えるにつれ、数えるのが難しくなり、人は一人で数えたり、他の人の提案に従うのではなく、アルゴリズムによって生成されたプロンプトに従い始めました。
信頼できるアルゴリズム
シェクターは、写真に写っている人の数が増えると、タスクが客観的に難しくなるため、テストタスクとしてカウントするという選択が重要であると説明しました。 それはまた、誰もがコンピューターが得意であることを期待している種類のビジネスでもあります。
これは、オブジェクトを数えるよりも偏りがちですが、人々がコンピューターを得意と感じるタスクです。
アーロン・シェクター
中毒はリスクです
「AIの一般的な問題のXNUMXつは、AIがクレジットの付与やローンの承認に使用される場合です。 考慮すべき多くのパラメーターがあります（例えば、収入、または「信用状態」）：これはアルゴリズムにとって良い仕事になります。
ただし、アルゴリズムへの依存はリスクです。 私はもっと言います：それは私にとって悪いかもしれません。 おそらく考慮されていない社会的要因のために、差別的な慣行につながるからです。
あなたは間違いなくのアルゴリズムについて聞いたことがあるでしょう 顔認識、そして彼らがどのように起訴されたか。 それらの使用は明らかにした それらが構築された方法における文化的偏見、顔をIDに一致させたり、適格な候補者を選択したりすると、不正確になる可能性があります。
ただし、カウントなどのアクティビティには存在しない可能性のあるバイアスは、意思決定を行う際に人々がアルゴリズムにどのように依存しているかを理解することが重要です。
相互信頼
前述のように、この研究は、米陸軍研究所が資金提供した、ヒューマンマシンコラボレーションに関するシェクターのより大規模な研究プログラムの一部でした。
究極の目標は、意思決定を行う人間と機械のグループを調べ、それらを互いに信頼させる方法と、これが彼らの行動をどのように変えるかを見つけることです。
その文脈での研究はほとんどないので、研究者は実質的にゼロから始めました。 Schecter、Watson、およびBogertは現在、創造的な判断や道徳的な判断を行う際に、人々がアルゴリズムにどのように依存しているかを研究しています。 例の中で？ 説明的な文章を書くか、囚人の保釈金を修正します。
