honest-ai-image

AIが間違いを自信満々に語る理由と、「分からない」と言える設計がもたらす新しい信頼関係

海外AIニュース

OpenAIは、AIが自信満々に誤情報を出す「幻覚」がモデル能力だけでなく正解率偏重の評価によって助長されていると分析し、不確実さを認めて「分からない」と答える設計を評価基準に取り入れることを提案、信頼性重視の共存へ向けた利用者の姿勢変化も促している。