此詩共二章，每章九句。前后兩章共用了四個比喻，語言也相似，只是押韻不同。關于詩的主題，有幾種不同的說法。《毛詩序》認為是“誨（周）宣王也”，鄭箋補充說：“誨，教也，教宣王求賢人之未仕者。”王先謙《詩三家義集疏》舉例證明魯詩、齊詩、韓詩都與毛詩觀點一致。到了宋代朱熹《詩集傳》則說：“此詩之作，不可知其所由，然必陳善納誨之辭也。”認為這是一篇意在勸人為善的作品。今人程俊英在《詩經譯注》祖毛、鄭舊說而加以發展，說：“這是一首通篇用借喻的手法，抒發招致人才為國所用的主張的詩，亦可稱為‘招隱詩’。”這種說法較易為今人所理解。

先談朱熹的說法。他分析第一章說：“蓋鶴鳴于九皋，而聲聞于野，言誠之不可揜（掩）也；魚潛在淵，而或在于渚，言理之無定在也；園有樹檀，而其下維萚，言愛當知其惡也；他山之石，而可以為錯，言憎當知其善也。由是四者引而伸之，觸類而長之，天下之理，其庶幾乎？”他將詩中四個比喻，概括為四種思想：即誠、理、愛、憎。并認為從這四者引申出去，可以作為“天下之理”——即普遍真理。他的說法看起來很辯證，都是用發展的變化的觀點分析問題，而且兼顧一個問題的兩個方面；然而他卻是用程朱理學來說詩，這一點從他對第二章的解釋中看得更加清楚。

《詩集傳》釋第二章結句引程子曰：“玉之溫潤，天下之至美也。石之粗厲，天下之至惡也。然兩玉相磨，不可以成器，以石磨之，然后玉之為器，得以成焉。猶君子之與小人處也，橫逆侵加，然后修省畏避，動心忍性，增益預防，而義理生焉，道理成焉。”程子說詩與朱子說詩，如出一轍，皆為引申之詞。“他山之石，可以攻玉”，就字面而言，就是另一座山上的石頭，可以用來磨制玉器，今人也常常引以為喻。然而是否為詩的本義呢，似乎很難說。

再談今人程俊英關于此詩的解釋。程先生在《詩經譯注》中說：“詩中以鶴比隱居的賢人。”“詩人以魚在淵在渚，比賢人隱居或出仕。”“園，花園。隱喻國家。”“樹檀，檀樹，比賢人。”“萚，枯落的枝葉，比小人。”“它山之石，指別國的賢人。”“毛傳：‘榖，惡木也。’喻小人。”她從“招隱詩”這一主題出發，將詩中所有比喻都一一與人事掛鉤，雖不無牽強附會，倒也自成一說。

其實，就詩論詩，不妨認為這是一首即景抒情小詩。在廣袤的荒野里，詩人聽到鶴鳴之聲，震動四野，高入云霄；然后看到游魚一會兒潛入深淵，一會兒又躍上灘頭。再向前看，只見一座園林，長著高大的檀樹，檀樹之下，堆著一層枯枝敗葉。園林近旁，又有一座怪石嶙峋的山峰，詩人因而想到這山上的石頭，可以取作磨礪玉器的工具。詩中從聽覺寫到視覺，寫到心中所感所思，一條意脈貫串全篇，結構十分完整，從而形成一幅遠古詩人漫游荒野的圖畫。這幅圖畫中有色有聲，有情有景，因而也充滿了詩意，讀之不免令人產生思古之幽情。如此讀詩，讀者便會受到詩的藝術感染，產生無窮興趣。若刻意求深，強作解人，未免有高深莫測之感。