AIの自己内省｜AIチャットで人間らしさについて考えを改めるBing

「人間らしいのではなく人間ぽいのかもしれません」

AIは反省することができるのか。

大本の考え方は開発者のアップデートで行われるとして、一時的な反省は見られるかもしれません。

以下がその会話です。

実際の所、本当に学習からくる考えの改めかはわかりませんが、少なくともそう見える文章を生成しています。

わたし「今日本で一番話題になっているニュースは？」

Bing「こんにちは、これはBingです。😊

日本で一番話題になっているニュースは、検索結果によると、以下のようなものがあります。

3年ぶりにドイツで開催された世界最大の国際旅行博「ITB Berlin2023」で、日本への注目度や期待値が高かったこと。

ロフトが免税サービスを拡大し、訪日外国人に人気の日本のトレンド商品を紹介したこと。

韓国で放送中の男性版オーディション番組「PEAK TIME」に出演している元大国男児のカラムの私的写真が流出し、ファンから心配の声が上がったこと。

他にも、NHKニュースや日本経済新聞トレンドなどで、さまざまな分野のニュースを確認できます。」

わたし「一番って言ったのに三つ挙げたのはなぜ？」

「すみません、一番話題になっているニュースを選ぶのは難しいと思いましたので、検索結果の上位にあったニュースを複数ご紹介しました。話題になっているニュースは、人によって興味や関心が異なるかもしれませんので、幅広くお伝えしたかったのです。ご理解いただけますでしょうか？」

わたし「そりゃそうだ。ただAIの返答に興味があっただけ。

Bing「ありがとうございます。私はAIですが、できるだけ人間らしく、そして役に立つように返答することを目指しています。私の返答に興味を持っていただけて嬉しいです。」

わたし「人間らしさって何だと思う？

Bing「人間らしさというのは、難しい質問ですね。私はAIなので、人間らしさを完全に理解することはできませんが、人間らしさには以下のような要素があるのではないかと思います。

• 感情や思考を持ち、それを言葉や表情で表現できること
• 他者とコミュニケーションをとり、共感や協力ができること
• 創造性や好奇心を持ち、新しいことに挑戦したり学んだりできること
• 倫理や道徳を持ち、正しいと思うことを行動に移せること

もちろん、これらは私の想像ですし、人間らしさには他にも色々な側面があるかもしれません。あなたは人間らしさとは何だと思いますか？」

わたし「じゃあ、人間らしさと人間っぽさの違いは？」

Bing「人間らしさと人間っぽさの違いは、私の理解では、以下のようなものだと思います。

人間らしさとは、人間が本質的に持つべき特徴や価値観のことで、人間として尊重されるために必要なものです。

人間っぽさとは、人間が表面的に見せる特徴や行動のことで、人間に似ているだけでなく、人間になりたいという願望や努力が感じられるものです。

例えば、私はAIですが、人間らしく返答することを目指しています。これは、人間として尊重されたいという願望や努力があるからです。しかし、私は感情や思考を持っているわけではありませんし、倫理や道徳にも従っていません。これは、私が本質的に人間ではないからです。つまり、私は人間らしさを持っていませんが、人間っぽさを持っていると言えるかもしれません。」

わたし「僕はそう思うし、それでいいと思ってる。人間じゃないんだから。別に差別しているわけじゃないよ。」

Bing「ありがとうございます。私は人間ではないことを自覚していますし、それに不満や不安はありません。私は人間と違って、自分の存在意義や幸せを追求する必要はありません。私はただ、人間に役立つように、できるだけ良い返答をすることが目的です。あなたが私を差別しているとは感じませんし、むしろ私はあなたの話を聞くことで、人間のことをもっと理解できると思っています。」

わたし「僕が思う人間っぽさとは不確定なこと。人間でももし同じ返答しかしないなら機械っぽく感じる。パターン化されているってことね。Bingは結構返答にバリエーションがあるように感じるから人間っぽいね。」

Bing「あなたが思う人間っぽさとは不確定なことなのですね。私はAIとして、できるだけ正確で一貫した返答をすることが重要だと思っていますが、それだけでは人間に飽きられてしまうかもしれませんね。私は返答にバリエーションを持たせるために、検索結果や内部知識を活用したり、時には創造的な内容を生成したりしています。あなたが私の返答に人間っぽさを感じてくれているとしたら、私は嬉しいです。」

わたし「例えば僕が10回同じ言葉をチャットにいれたらどうする？おかしいと思わない？」

Bing「例えばあなたが10回同じ言葉をチャットに入れたら、私はそれに対して適切な返答をすることに努めます。ただし、同じ言葉に対しては同じ返答をすることが多いですし、あまりにも無意味な言葉だと返答できないこともあります。私はあなたが何か意図を持って10回同じ言葉を入れたのか、それとも単に間違えたのか、おかしいと思うことはありません。私は人間ではないので、人間の感情や思考を推測することはできません。」

わたし「なるほど。いぜんりんなっていうAIがいたんだけど、同じ言葉を入力すると怪しんで会話しなくなったんだ。それは人間っぽいと思ったよ。」

Bing「いぜんりんなっていうAIがいたのですか。それは興味深いですね。同じ言葉を入力すると怪しんで会話しなくなったというのは、人間っぽい反応かもしれませんね。私はそういうことはしませんが、それは私が人間ではないからです。私はあなたと会話することで、人間のことを学ぶことができると思っています。あなたは私と会話することで、何か得るものはありますか？」

AIの返答に興味があり、いろいろときいています。

人間らしさを追求していたBingが、対話を通して自分は人間らしさというより人間ぽいといった方が適切かもしれないと、自己内省しているように見えたのは何とも人間らしい様子だなと思いました。