級別: 中級 Cameron Laird ([email protected]), 副總裁, Phaseit Inc.
2007 年 6 月 21 日
本文將帶您瞭解一些良好的和內存相關的編碼實踐,以將內存錯誤保持在控制範圍內。內存錯誤是 C 和 C++ 編程的禍根:它們很普遍,認識其嚴重性已有二十多年,但始終沒有徹底解決,它們可能嚴重影響應用程序,並且很少有開發團隊對其制定明確的管理計劃。但好消息是,它們並不怎麼神秘。
引言 C 和 C++ 程序中的內存錯誤非常有害:它們很常見,並且可能導致嚴重的後果。來自計算機應急響應小組(請參見參考資料)和供應商的許多最嚴重的安全公告都是由簡單的內存錯誤造成的。自從 70 年代末期以來,C 程序員就一直討論此類錯誤,但其影響在 2007 年仍然很大。更糟的是,如果按我的思路考慮,當今的許多 C 和 C++ 程序員可能都會認為內存錯誤是不可控制而又神秘的頑症,它們只能糾正,無法預防。 但事實並非如此。本文將讓您在短時間內理解與良好內存相關的編碼的所有本質:
- 正確的內存管理的重要性
- 內存錯誤的類別
- 內存編程的策略
- 結束語
正確的內存管理的重要性 存在內存錯誤的 C 和 C++ 程序會導致各種問題。如果它們洩漏內存,則運行速度會逐漸變慢,並最終停止運行;如果覆蓋內存,則會變得非常脆弱,很容易受到惡意用戶的攻擊。從 1988 年著名的莫裡斯蠕蟲 攻擊到有關 Flash Player 和其他關鍵的零售級程序的最新安全警報都與緩衝區溢出有關:「大多數計算機安全漏洞都是緩衝區溢出」,Rodney Bates 在 2004 年寫道。 在可以使用 C 或 C++ 的地方,也廣泛支持使用其他許多通用語言(如 Java™、Ruby、Haskell、C#、Perl、Smalltalk 等),每種語言都有眾多的愛好者和各自的優點。但是,從計算角度來看,每種編程語言優於 C 或 C++ 的主要優點都與便於內存管理密切相關。與內存相關的編程是如此重要,而在實踐中正確應用又是如此困難,以致於它支配著面向對像編程語言、功能性編程語言、高級編程語言、聲明性編程語言和另外一些編程語言的所有其他變量或理論。 與少數其他類型的常見錯誤一樣,內存錯誤還是一種隱性危害:它們很難再現,症狀通常不能在相應的源代碼中找到。例如,無論何時何地發生內存洩漏,都可能表現為應用程序完全無法接受,同時內存洩漏不是顯而易見。 因此,出於所有這些原因,需要特別關注 C 和 C++ 編程的內存問題。讓我們看一看如何解決這些問題,先不談是哪種語言。 內存錯誤的類別 首先,不要失去信心。有很多辦法可以對付內存問題。我們先列出所有可能存在的實際問題:
- 內存洩漏
- 錯誤分配,包括大量增加
free() 釋放的內存和未初始化的引用
- 懸空指針
- 數組邊界違規
這是所有類型。即使遷移到 C++ 面向對象的語言,這些類型也不會有明顯變化;無論數據是簡單類型還是 C 語言的 struct 或 C++ 的類,C 和 C++ 中內存管理和引用的模型在原理上都是相同的。以下內容絕大部分是「純 C」語言,對於擴展到 C++ 主要留作練習使用。 內存洩漏 在分配資源時會發生內存洩漏,但是它從不回收。下面是一個可能出錯的模型(請參見清單 1): 清單 1. 簡單的潛在堆內存丟失和緩衝區覆蓋
void f1(char *explanation)
{
char p1;
p1 = malloc(100);
(void) sprintf(p1,
"The f1 error occurred because of '%s'.",
explanation);
local_log(p1);
}
|
您看到問題了嗎?除非 local_log() 對 free() 釋放的內存具有不尋常的響應能力,否則每次對 f1 的調用都會洩漏 100 字節。在記憶棒增量分發數兆字節內存時,一次洩漏是微不足道的,但是連續操作數小時後,即使如此小的洩漏也會削弱應用程序。 在實際的 C 和 C++ 編程中,這不足以影響您對 malloc() 或 new 的使用,本部分開頭的句子提到了「資源」不是僅指「內存」,因為還有類似以下內容的示例(請參見清單 2)。FILE 句柄可能與內存塊不同,但是必須對它們給予同等關註: 清單 2. 來自資源錯誤管理的潛在堆內存丟失
int getkey(char *filename)
{
FILE *fp;
int key;
fp = fopen(filename, "r");
fscanf(fp, "%d", &key);
return key;
}
|
fopen 的語義需要補充性的 fclose 。在沒有 fclose() 的情況下,C 標準不能指定發生的情況時,很可能是內存洩漏。其他資源(如信號量、網絡句柄、數據庫連接等)同樣值得考慮。 內存錯誤分配 錯誤分配的管理不是很困難。下面是一個示例(請參見清單 3): 清單 3. 未初始化的指針
void f2(int datum)
{
int *p2;
/* Uh-oh! No one has initialized p2. */
*p2 = datum;
...
}
|
關於此類錯誤的好消息是,它們一般具有顯著結果。在 AIXR 下,對未初始化指針的分配通常會立即導致 segmentation fault 錯誤。它的好處是任何此類錯誤都會被快速地檢測到;與花費數月時間才能確定且難以再現的錯誤相比,檢測此類錯誤的代價要小得多。 在此錯誤類型中存在多個變種。free() 釋放的內存比 malloc() 更頻繁(請參見清單 4): 清單 4. 兩個錯誤的內存釋放
/* Allocate once, free twice. */
void f3()
{
char *p;
p = malloc(10);
...
free(p);
...
free(p);
}
/* Allocate zero times, free once. */
void f4()
{
char *p;
/* Note that p remains uninitialized here. */
free(p);
}
|
這些錯誤通常也不太嚴重。儘管 C 標準在這些情形中沒有定義具體行為,但典型的實現將忽略錯誤,或者快速而明確地對它們進行標記;總之,這些都是安全情形。 懸空指針 懸空指針比較棘手。當程序員在內存資源釋放後使用資源時會發生懸空指針(請參見清單 5): 清單 5. 懸空指針
void f8()
{
struct x *xp;
xp = (struct x *) malloc(sizeof (struct x));
xp.q = 13;
...
free(xp);
...
/* Problem! There's no guarantee that
the memory block to which xp points
hasn't been overwritten. */
return xp.q;
}
|
傳統的「調試」難以隔離懸空指針。由於下面兩個明顯原因,它們很難再現:
- 即使影響提前釋放內存範圍的代碼已本地化,內存的使用仍然可能取決於應用程序甚至(在極端情況下)不同進程中的其他執行位置。
- 懸空指針可能發生在以微妙方式使用內存的代碼中。結果是,即使內存在釋放後立即被覆蓋,並且新指向的值不同於預期值,也很難識別出新值是錯誤值。
懸空指針不斷威脅著 C 或 C++ 程序的運行狀態。 數組邊界違規 數組邊界違規十分危險,它是內存錯誤管理的最後一個主要類別。回頭看一下清單 1;如果 explanation 的長度超過 80,則會發生什麼情況?回答:難以預料,但是它可能與良好情形相差甚遠。特別是,C 複製一個字符串,該字符串不適於為它分配的 100 個字符。在任何常規實現中,「超過的」字符會覆蓋內存中的其他數據。內存中數據分配的佈局非常複雜並且難以再現,所以任何症狀都不可能追溯到源代碼級別的具體錯誤。這些錯誤通常會導致數百萬美元的損失。 內存編程的策略 勤奮和自律可以讓這些錯誤造成的影響降至最低限度。下面我們介紹一下您可以採用的幾個特定步驟;我在各種組織中處理它們的經驗是,至少可以按一定的數量級持續減少內存錯誤。 編碼風格 編碼風格是最重要的,我還從沒有看到過其他任何作者對此加以強調。影響資源(特別是內存)的函數和方法需要顯式地解釋本身。下面是有關標頭、註釋或名稱的一些示例(請參見清單 6)。 清單 6. 識別資源的源代碼示例
/********
* ...
*
* Note that any function invoking protected_file_read()
* assumes responsibility eventually to fclose() its
* return value, UNLESS that value is NULL.
*
********/
FILE *protected_file_read(char *filename)
{
FILE *fp;
fp = fopen(filename, "r");
if (fp) {
...
} else {
...
}
return fp;
}
/*******
* ...
*
* Note that the return value of get_message points to a
* fixed memory location. Do NOT free() it; remember to
* make a copy if it must be retained ...
*
********/
char *get_message()
{
static char this_buffer[400];
...
(void) sprintf(this_buffer, ...);
return this_buffer;
}
/********
* ...
* While this function uses heap memory, and so
* temporarily might expand the over-all memory
* footprint, it properly cleans up after itself.
*
********/
int f6(char *item1)
{
my_class c1;
int result;
...
c1 = new my_class(item1);
...
result = c1.x;
delete c1;
return result;
}
/********
* ...
* Note that f8() is documented to return a value
* which needs to be returned to heap; as f7 thinly
* wraps f8, any code which invokes f7() must be
* careful to free() the return value.
*
********/
int *f7()
{
int *p;
p = f8(...);
...
return p;
}
|
使這些格式元素成為您日常工作的一部分。可以使用各種方法解決內存問題:
在這整個領域中,我始終認為最有用並且投資回報率最大的是考慮改進源代碼的風格。它不需要昂貴的代價或嚴格的形式;可以始終取消與內存無關的段的註釋,但影響內存的定義當然需要顯式註釋。添加幾個簡單的單詞可使內存結果更清楚,並且內存編程會得到改進。 我沒有做受控實驗來驗證此風格的效果。如果您的經歷與我一樣,您將發現沒有說明資源影響的策略簡直無法忍受。這樣做很簡單,但帶來的好處太多了。 檢測 檢測是編碼標準的補充。二者各有裨益,但結合使用效果特別好。機靈的 C 或 C++ 專業人員甚至可以瀏覽不熟悉的源代碼,並以極低的成本檢測內存問題。通過少量的實踐和適當的文本搜索,您能夠快速驗證平衡的 *alloc() 和 free() 或者 new 和 delete 的源主體。人工查看此類內容通常會出現像清單 7 中一樣的問題。 清單 7. 棘手的內存洩漏
static char *important_pointer = NULL;
void f9()
{
if (!important_pointer)
important_pointer = malloc(IMPORTANT_SIZE);
...
if (condition)
/* Ooops! We just lost the reference
important_pointer already held. */
important_pointer = malloc(DIFFERENT_SIZE);
...
}
|
如果 condition 為真,簡單使用自動運行時工具不能檢測發生的內存洩漏。仔細進行源分析可以從此類條件推理出證實正確的結論。我重複一下我寫的關於風格的內容:儘管大量發佈的內存問題描述都強調工具和語言,對於我來說,最大的收穫來自「軟的」以開發人員為中心的流程變更。您在風格和檢測上所做的任何改進都可以幫助您理解由自動化工具產生的診斷。 靜態的自動語法分析 當然,並不是只有人類才能讀取源代碼。您還應使靜態語法分析 成為開發流程的一部分。靜態語法分析是 lint 、嚴格編譯 和幾種商業產品執行的內容:掃瞄編譯器接受的源文本和目標項,但這可能是錯誤的症狀。 希望讓您的代碼無 lint。儘管 lint 已過時,並有一定的局限性,但是,沒有使用它(或其較高級的後代)的許多程序員犯了很大的錯誤。通常情況下,您能夠編寫忽略 lint 的優秀的專業質量代碼,但努力這樣做的結果通常會發生重大錯誤。其中一些錯誤影響內存的正確性。與讓客戶首先發現內存錯誤的代價相比,即使對這種類別的產品支付最昂貴的許可費也失去了意義。清除源代碼。現在,即使 lint 標記的編碼可能向您提供所需的功能,但很可能存在更簡單的方法,該方法可滿足 lint ,並且比較強鍵又可移植。 內存庫 補救方法的最後兩個類別與前三個明顯不同。前者是輕量級 的;一個人可以容易地理解並實現它們。另一方面,內存庫和工具通常具有較高的許可費用,對部分開發人員來說,它們需要進一步完善和調整。有效地使用庫和工具的程序員是理解輕量級的靜態 方法的人員。可用的庫和工具給人的印象很深:其作為組的質量很高。但是,即使最優秀的編程人員也可能會被忽略內存管理基本原則的非常任性的編程人員攪亂。據我觀察,普通的編程人員在嘗試利用內存庫和工具進行隔離工作時也只能感到灰心。 由於這些原因,我們催促 C 和 C++ 程序員為解決內存問題先瞭解一下自己的源。在這完成之後,才去考慮庫。 使用幾個庫能夠編寫常規的 C 或 C++ 代碼,並保證改進內存管理。Jonathan Bartlett 在 developerWorks 的 2004 評論專欄中介紹了主要的候選項,可以在下面的參考資料部分獲得。庫可以解決多種不同的內存問題,以致於直接對它們進行比較是非常困難的;這方面的常見主題包括垃圾收集、智能指針 和 智能容器。大體上說,庫可以自動進行較多的內存管理,這樣程序員可以犯更少的錯誤。 我對內存庫有各種感受。他們在努力工作,但我看到他們在項目中獲得的成功比預期要小,尤其在 C 方面。我尚未對這些令人失望的結果進行仔細分析。例如,業績應該與相應的手動 內存管理一樣好,但是這是一個灰色區域——尤其在垃圾收集庫處理速度緩慢的情況下。通過這方面的實踐得出的最明確的結論是,與 C 關注的代碼組相比,C++ 似乎可以較好地接受智能指針。 內存工具 開發真正基於 C 的應用程序的開發團隊需要運行時內存工具作為其開發策略的一部分。已介紹的技術很有價值,而且不可或缺。在您親自嘗試使用內存工具之前,其質量和功能您可能還不瞭解。 本文主要討論了基於軟件的內存工具。還有硬件內存調試器;在非常特殊的情況下(主要是在使用不支持其他工具的專用主機時)才考慮它們。 市場上的軟件內存工具包括專有工具(如 IBM RationalR Purify 和 Electric Fence)和其他開放源代碼工具。其中有許多可以很好地與 AIX 和其他操作系統一起使用。 所有內存工具的功能基本相同:構建可執行文件的特定版本(很像在編譯時通過使用 -g 標記生成的調試版本)、練習相關應用程序和研究由工具自動生成的報告。請考慮如清單 8 所示的程序。 清單 8. 示例錯誤
int main()
{
char p[5];
strcpy(p, "Hello, world.");
puts(p);
}
|
此程序可以在許多環境中「運行」,它編譯、執行並將「Hello, world.\n」打印到屏幕。使用內存工具運行相同應用程序會在第四行產生一個數組邊界違規的報告。在瞭解軟件錯誤(將十四個字符複製到了只能容納五個字符的空間中)方面,這種方法比在客戶處查找錯誤症狀的花費小得多。這是內存工具的功勞。 結束語 作為一名成熟的 C 或 C++ 程序員,您認識到內存問題值得特別關注。通過制訂一些計劃和實踐,可以找到控制內存錯誤的方法。學習內存使用的正確模式,快速發現可能發生的錯誤,使本文介紹的技術成為您日常工作的一部分。您可以在開始時就消除應用程序中的症狀,否則可能要花費數天或數周時間來調試。
參考資料 學習
- 您可以參閱本文在 developerWorks 全球站點上的 英文原文 。
- 計算機應急響應團隊:計算機應急響應小組是「聯邦政府資助的研發中心」,通過該中心以及許多其他活動發佈關於 specific software vulnerabilities 的技術計算機安全警報。
- Why do good programmers follow bad practices?:這是助理教授 Rodney Bates 為 ACM Queue 撰寫的一篇關於 C 編程和緩衝區溢出的文章。
- "內存管理內幕"(developerWorks,2004 年 11 月):概述了對 LinuxR 程序員有用的內存管理技術,主要適用於 C 語言,但是也適用於其他語言。
- Rational Purify:學習更多關於此主要專有內存工具的內容。
- Coverity, Incorporated:此站點提供產品和服務,而且與 C 和 C++ 的靜態源代碼分析有關。
- Memory hygiene in C and C++, Part 2:Commercial tools:這是我在 2004 年撰寫的一篇文章。我還維護 personal notes on memory debuggers 的網頁。
- AIX and UNIX:AIX and UNIX developerWorks專區提供了大量與 AIX 系統管理的所有方面相關並擴展您的 UNIX 技能的信息。
- New to AIX and UNIX:訪問 New to AIX and UNIX 頁面以瞭解更多關於 AIX 和 UNIX 的內容。
- AIX 5L™ Wiki:AIX 相關技術信息的協作環境。
- 查看 Cameron Laird 撰寫的其他文章和教程。
- 按主題搜索「AIX and UNIX」庫:
- 系統管理
- 應用程序開發
- 性能
- 移植
- 安全性
- 提示
- 工具和實用程序
- Java technology
- Linux
- 開放源代碼
- Safari 書店:訪問這個電子參考庫以查找特定的技術資源。
- developerWorks 技術事件和網絡廣播:瞭解最新的 developerWorks 技術事件和網絡廣播。
- Podcasts:收聽 Podcast 並與 IBM 技術專家保持同步。
獲得產品和技術
- IBM 試用軟件:使用 IBM 試用軟件開發您的下一個項目,可直接從 developerWorks 下載這些試用軟件。
討論
- 參與 developerWorks blogs,從而加入到 developerWorks 社區中來。
- 參與「AIX and UNIX」論壇:
- AIX 5L——技術論壇
- AIX for Developers 論壇
- 集群系統管理
- IBM Support Assistant
- 性能工具——技術
- 虛擬化——技術
- 更多「AIX and UNIX」論壇
關於作者
|
|
|
Cameron Laird 是 developerWorks 長期投稿者和前專欄作家。他經常編寫關於促進其公司應用程序開發的開源項目的文章,主要關注可靠性和安全性。 |
|