グーグルの音楽アプリの幻覚、創業者に架空のサウンドスライスの実現を促す

今月初め、音楽教育プラットフォームSoundsliceの創設者であるエイドリアン・ホロヴァティは、数週間彼を困惑させていた事件を解明した。明らかにChatGPTセッションのスクリーンショットと思われる奇妙な画像が、サイト上に表示され続けていたのだ。

謎を解くと、彼はChatGPTが彼の会社の最大のプロモーターの一つになっていることを発見した。

ホロヴァティは、オープンソースのPythonウェブフレームワークとして人気のあるDjangoプロジェクトの共同制作者として広く知られている（ただし、彼は2014年にその管理から退いた）。彼は2012年にSoundsliceを立ち上げ、TechCrunchに "誇りを持ってブートストラップされた "と認めている。最近、彼は音楽活動と起業に集中している。

Soundsliceは、生徒にも教師にも利用されている音楽教育アプリだ。特にビデオプレーヤーが有名で、楽譜とシームレスに同期し、ユーザーに音符の正確な弾き方を示す。

このアプリには「楽譜スキャナー」機能もある。AIを使って、ユーザーが印刷された楽譜の画像をアップロードすると、すべての楽譜を含むインタラクティブな楽譜に自動的に変換してくれる。

ホロバティ氏は、この機能のエラーログを熱心に監視して問題を特定し、今後の改善の指針にしていると説明した。

アップロードされたChatGPTセッションのスクリーンショットに彼が最初に気づいたのは、このログの中だった。

TechCrunchオールステージパスが最大475ドルお得

よりスマートに構築。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VC、その他一流企業の先見者たちと一緒に、戦略的洞察、実践的ワークショップ、貴重なネットワーキングを楽しみましょう。

TechCrunchオールステージ・パスが450ドルお得

よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VC、その他一流企業の先見者たちと一緒に、戦略的洞察、実践的ワークショップ、そして貴重なネットワーキングの一日を過ごしましょう。

これらのアップロードは多数のエラーログを生成していました。画像には楽譜が含まれておらず、代わりにテキストの会話とASCIIタブ譜として知られる記号のボックスが表示されていました。これは、標準的なキーボード文字を使用した、シンプルなテキストベースのギター楽譜システムです。(結局のところ、一般的なQWERTYキーボードで高音部記号を見つけることはできない）。

ホロヴァティ氏は、これらのChatGPT画像の量は、大きなストレージコストやアプリの帯域幅を圧迫するほど多くはないと指摘した。彼はこの事件についてのブログ投稿で書いているように、単に当惑していた。

「私たちのスキャンシステムは、この種の表記を扱うようには設計されていませんでした。それなのに、なぜ突然ChatGPTのASCIIタブのスクリーンショットが溢れてきたのでしょうか？ChatGPTを自分で試してみるまでは、何週間も困惑していました。"

そこで彼は気づいた：ChatGPTは、Soundsliceのアカウントを作成し、チャットセッションのスクリーンショットをアップロードすれば、音楽を聴くことができると指示していたのだ。問題は、それができないことだった。これらの画像をアップロードしても、魔法のようにアスキータブ譜を再生可能なオーディオに変換することはできなかった。

これは新たな評判の問題を引き起こした。「主な代償は、私たちの評判でした：新しいユーザーは、完全に間違った期待を持ってやってくるのです。彼らは、私たちのアプリではできないことができると確信していたのです」と彼はTechCrunchに語った。

彼と彼のチームは、ChatGPTセッションを聴ける音楽に変換できないことを明確にする免責事項でサイトを埋め尽くすか、その代わりに、その珍しい記譜システムを実際にサポートする機能を構築するか、選択肢を考えた。

彼は機能を構築することに決めた。

「私の気持ちは複雑です。人々を助けるツールを提供できるのは嬉しい。しかし、非常に奇妙な方法で圧力をかけられたような気がします。AIが生成した誤った情報に直接反応して、企業が本当に機能を開発すべきなのでしょうか」と彼は書いた。

彼はまた、ChatGPTが繰り返しその存在を多くの聴衆に幻視させたために、企業が新機能を実装しなければならなくなった最初の既知の例であるかどうかについても疑問を呈した。

Hacker Newsに参加しているプログラマー仲間は、このシナリオは、熱狂的な人間の営業マンが潜在的な顧客に壮大な約束をし、それが開発チームにスクランブルと納品を強いるのと変わらないとコメントしている。

「それはとても適切で、むしろ面白い比較だと思います。ホロバティも同意した。