#instruction-hierarchy

OpenAIはinstruction hierarchyに基づく安全alignment設計を公開した。公表評価では、不確実な要求に対する拒否率が約59%から約97%へ改善したとしている。