劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　許玄度言：“琴賦所謂‘非至精者，不能與之析理’。劉尹其人；‘非淵靜者，不能與之閑止’，簡文其人。”

　　桓玄下都，羊孚時為兗州別駕，從京來詣門，箋雲：“自頃世故睽離，心事淪蕰。明公啟晨光於積晦，澄百流以壹源。”桓見箋，馳喚前，雲：“子道，子道，來何遲？”即用為記室參軍。孟昶為劉牢之主簿，詣門謝，見雲：“羊侯，羊侯，百口賴卿！”