1984年，原北京語言學院（現北京語言大學）成立了u201c漢語水平考試設計小組u201d，開始研制漢語水平考試。此項研究首先從初、中等考試開始，歷時五年多，于1990年2月20日，通過了國家教委組織的專家鑒定。為了使HSK成為一個完整的系統，在初、中等考試研制工作取得初步成果的基礎上，1989年10月，開始了高等漢語水平考試的研制。1993年7月28日，HSK（高等）通過了國家漢語水平考試委員會組織的專家審定。為了使更多的漢語學習者有機會測試自己的水平，1995年9月又開始了基礎漢語水平考試的研究。

1997年11月24日，HSK（基礎）通過了國家漢語水平考試委員會組織的專家鑒定。至此，HSK構成了一個水平由低到高的較為完整的系統。

1986年12月，HSK列入國家教委1986年度文科博士點專項科研基金項目。1992年9月2日，中國國家教育委員會發布了李鐵映主任簽署的第21號令，漢語水平考試正式升級為國家級考試－－中國漢語水平考試（HSK）。1995年12月26日，國家教育委員會發布教外來[1995]668號文，頒布了《關于外國留學生憑〈漢語水平證書〉注冊入學的規定》。1997年（丁丑年）8月27日，根據國家教委關于成立國家漢語水平考試委員會的決定，國家漢語水平考試委員會在北京成立并召開了第一次全體會議。

1990年，HSK正式在國內推廣，1991年推向海外。截至2013年已在國內的27個城市設立了40個考點，在亞、歐、美洲和大洋州的24個國家設立了55個考點。截止到2001年7月底，已有來自120多個國家的35萬人次參加了HSK考試。

HSK考試已達到較高的科學化水平，實現了命題、施測、閱卷評分和分數解釋的標準化。實現了預測統計分析、試題等值、考試報名、評分和成績報告等的計算機化。1997年完成了HSK等值研究。從1998年9月開始了HSK題庫計算機自動生成試卷系統這一課題的研究。已經形成了一個初具規模的HSK題庫和試卷計算機自動生成系統。在此基礎上，將推出計算機化自適應性HSK考試，這種考試將更加具有針對性，更加個性化，從而可以達到更高的可靠性（信度）和更高的有效性（效度）。