スケルトン、ChatGPT、および AI に依存する落とし穴

ウェストパームビーチの理学療法士、ダン・ゴールドスタインさんは最近ノルウェーで休暇を過ごしていたとき、珍しい光景を目にした。

毎年ノーベル平和賞授賞式が行われるオスロ市庁舎のオルガンパイプの上に骸骨が置かれた。

ゴールドスタイン氏はオルガンの上にある骸骨の写真を撮り、説明を求めてグーグル検索したが、何も出てこなかった。

彼の友人は、ChatGPT でそれを調べることを提案しました。ChatGPT は、さまざまなソースから広範囲のデータを収集し、会話形式で質問に答えたり、大学のエッセイからビジネス通信まであらゆるものを書くことができる一種の知識豊富なパーソナルアシスタントとして機能するオンライン人工知能ソースです。その場で新聞のコラムに。

薄氷の上のディズニー：デサンティス買収後のディズニー映画を「修正」するための提案

セラビーノ:親愛なるマー・ア・ラーゴ・クラブ会員の皆様、このFBI捜査には犠牲が伴います。

もっと：フロリダ州の E-Verify システムは、最悪の仕事に就いている労働者を怖がらせることを目的としています。 誰が補充するのでしょうか？

そして、そうです、Goldstein が ChatGPT にスケルトンについて尋ねたところ、ChatGPT はそれについてすべて知っていました。 しかも非常に詳細に。

「オスロ市庁舎のパイプオルガンの上にある骸骨は、ノルウェー語で「死のオルガン」または「ドーゾルゲル」として知られています。骸骨はオルガンのパイプの上に座って置かれ、オルガンの鍵盤の上に手を置いています。 。

この骸骨は石膏で作られており、1900 年代初頭にホールの装飾を依頼されたノルウェーの芸術家エマヌエル ヴィーゲランによって制作されました。

死の器官は、人生のはかない性質と死の必然性を象徴することを目的としています。 オルガン自体も、死の予感を呼び起こす特別なサウンドで設計されており、葬送行進曲に似ていると言われる深くて悲しい音色です。」

ノルウェーから帰国後、ゴールドスタイン氏はクライアントに、ChatGPT の「魔法のコンピューター」機能にどれほど感銘を受けたかを語った。

「それが本当だとどうやってわかるのですか？」 彼女は答えた。

さて、今、彼は知らなければなりませんでした。 そこでゴールドスタインさんはオスロの観光ガイドにChatGPTからの骸骨の説明と、骸骨の歴史の検証を求めるメールを送った。 彼は返ってきた答えに驚いた。

「それは夜間警備員による日中警備員へのいたずらとしてそこに設置され、再び撤去されるまでおそらく半日しか残っていなかった」と回答書には書かれている。 「チャット GPT のこの『ストーリー』は、少なくとも現時点では、その内容を信じるべきではないことを示していると言えます。本文には何も正しくありませんでした。」

Goldstein がオスロ スケルトンと ChatGPT の話をしてくれたので、私は自分の目で見てみたいと思いました。 そして、ChatGPT にパイプ オルガンの骨格の歴史を教えてほしいと頼んだところ、まったく異なる、非常に詳細な架空の答えが返されました。

パイプオルガンの上の骸骨は「リーフ」と名付けられ、1930年代にまで遡る興味深い歴史があるとChatGPTが教えてくれた。

「リーフの背後にある物語は、建築家アルンシュタイン・アルネベルクと芸術家ヒューゴ・ルース・モールが建物の設計に取り組んでいた時代に遡ります。

「伝説によると、オルガンのロフトについての会話中に、モールはオルガン奏者との付き合いを保つためにそこに骸骨を置くことを冗談めかして提案しました。アルネベルクはそのアイデアを面白がり、それを設計に組み込むことにしました。しかし、そのアイデアにまったく意味がなかったわけではありません。」 」

説明は、数十年にわたって人々が骸骨に与えてきたいくつかの象徴的な意味を含む、より詳細な4つの段落で続きました。 そして、それは本物の人骨ではなく、モール氏とともに市庁舎の装飾を手がけたアーティスト、カール・ネスジャール氏が石膏と鉄の棒で作ったものだと主張した。

「レイフは現在もオスロ市庁舎を訪れる人々を魅了し続けており、風変わりで考えさせられる芸術作品として機能している」と説明文にはある。

ゴールドスタインは「死の臓器」という返答を得た。 そして「リーフ」を手に入れました。 彼の話では、それはノルウェーの芸術家エマヌアル・ヴィーゲランによって作成されたと言い、私の話では、それはカール・ネスジャールの作品だと言いました。 そして、これらの詳細な歴史は互いに一致せず、単純な真実も一致しませんでした。

うわぁ。 このような権威ある誤った情報源のマイナス面を理解するのは難しくありません。

私はこのことについて、イサカ大学の戦略的コミュニケーション教授、ダイアン・ゲイスキー氏に話しました。 Gayeski 氏は、ChatGPT の限界と、ずさんな研究や盗作が容易に可能になってしまうことを認識しながら、学生たちに ChatGPT を研究ツールとして使用するよう要求しています。

「それは、物事をでっち上げているときに非常に説得力を持たせる方法を知っています」と彼女は言いました。 「そして、つながるべきではない点を結びつけるのがとても上手です。」

彼女は例として ChatGPT で自分の経歴を使用しました。 同紙は、彼女がニューヨーク州立大学学長賞を受賞したと主張しているが、彼女はSUNYシステムで教えたことも、その賞を受賞したこともない。

「おそらく今頃私がその賞を受賞すべきだったと思われているでしょう」とガエスキは語った。

Gayeski 氏は、企業コミュニケーションの分野でキャリアを積むことが多い生徒たちに、ChatGPT を情報収集の出発点として使ってほしいと述べました。

「たとえば、100ドルの寄付者に1,000ドルの寄付者になってもらうために手紙を書く例を教えてください」と彼女は言った。 「空白の画面を見ているときに、何かを紙に書き留めるのは良い方法です。」

ガイエスキ氏は、学生だけでなく大学教授もそれを使用していると述べた。

「教授は、初めて教える科目のクイズを作成したり、授業のシラバスを作成したりするためにこれを使用しています。」

彼女は、作成される出力の品質を「B マイナス、C プラス」のレベルに置いています。

「微積分の質問に答えたり、基本的なイタリア語で文章を考えたりするなど、でっち上げられないことに使う方が良いのです」と彼女は言う。

ChatGPT に、私の声で ChatGPT に関するコラムを書いてほしいとお願いしました。

以下は、即座に私に代わって書いたコラムの抜粋です。

「正直に言うと、最初に ChatGPT に出会ったとき、私は懐疑的でした。機械が本当に有意義な会話を行い、インテリジェントな応答を提供できるのでしょうか? しかし、親愛なる読者の皆さん、私は嬉しい驚きを感じたと言わせてください。」

親愛なる読者の皆さん、私は良い驚きではなかったと言わせてください。 オスロ市庁舎のオルガンに置かれた一時的ないたずらスケルトンを代表して、私のアドバイスは、「恐れなさい、非常に恐れなさい」です。

Frank Cerabino は、USA TODAY Florida Network の一部である The Palm Beach Post のコラムニストです。 [email protected] までご連絡ください。