目前電信IP電話系統一般由IP電話終端、網關（Gateway）、關守（Gatekeeper）、網管系統、認證計費系統等幾部分組成。下圖1給出了典型的電話系統組成結構。
1、終端
IP電話終端包括傳統的語音電話機、PC、IP電話機，也可以是集語音、數據和圖像于一體的多媒體業務終端。
2、網關
由于不同種類的終端產生的數據源的結構是不同的，要在同一個網絡上傳輸，這就要由網關或者是通過一個適配器進行數據轉換，形成統一的IP數據包。網關是IP電話的核心與關鍵設備。網關具有路由管理功能，它把各地區電話區號映射為相應的地區網關IP地址。這些信息存放在一個數據庫中，有關處理軟件完成呼叫處理、數字語音打包、路由管理等功能。在用戶撥打IP電話時，IP電話網關根據電話區號數據庫資料，確定相應網關的IP地址，并將此IP地址加入IP數據包中，同時選擇最佳路由，以減少傳輸時延，IP數據包經因特網到達目的地IP電話網關。對于因特網未延伸到或暫時未設立網關的地區，可設置路由，由最近的網關通過長途電話網轉接，實現通信業務。
通常，網關由公用電話網PSTN中繼接口、數字信號處理板、主處理器、全局RAM以及以大網卡等設備組成。PSTN中繼接口連接電話網，利用中繼線（如E1或T1）承載用戶數據，主要接續呼叫信息及承載用戶的語音信息。DSP處理板是網關硬件結構中必不可少的設備。由于要處理實時的語音信號壓縮、DTMF信號的檢測與產生、回波消除等工作，若所有的工作都由主機CPU來完成，則負擔過重，、實時性能受到影響，會造成語音質量下降，且同時通信的會話數較少，不能滿足大量用戶通信的要求。采用DSP的好處是所有上述工作都由DSP來實時完成，減輕了主機CPU的負擔，并且DSP能同時提供多個話路，能夠完成雙工的操作。全局RAM主要用于緩存語音信息和信令報文，便于順序重組發送方發送過來的語音信息，使得接收方能夠接收到連續的報文，合成連續的語音，減少了語音抖動的現象、使接收方聽到比較舒服的聲音信號。
3、關守
關守實際上是IP電話網的智能集線器，是整個系統的服務平臺，負責系統的統一管理、配置和維護。目前，各個廠家都有自己的關守服務器的設計方案和產品，可能它們在具體功能和實現手段上有差別，但一般來講，都具有以下幾個共同的特征：呼叫控制功能，地址翻譯、帶寬管理、路由管理、數據庫管理和備份等。
1）呼叫控制功能：當呼叫來到時，關守對呼叫進行驗證，符合業務要求的呼叫才被許可通過，并給予一個可連接網關的地址。以電話到電話的呼叫過程為例，見下圖2。主叫方電話要先連接到本地的網關，輸人用戶賬號和密碼。本地網關把呼叫請求發送到關守，關守對用戶賬號和密碼進行檢驗，驗證該用戶是否經過呼叫授權。通過授權檢驗后，關守搜索合適的對端網關，并向本地網關返回對端網關的地址。最后，本地網關將呼叫傳送到遠端的網關，通信開始建立。
圖2：電話到電話的呼叫過程
2）地址解析：網關在用戶認證完成后，接受被叫號碼，接收完被叫號碼后把號碼用ARQ送給關守，關守在路由表中查找目的網關的IP地址，如果目的網關不在本區域中，向上級關守或鄰近關守請求在別的區域中查找。找到目的網關后在ACF中返回其IP地址，未找到返回ARJ。
3）帶寬管理：由于每個網關接入到Intemet的帶寬有限，為了避免在話務高峰期造成網絡擁塞，影響所有的呼叫，關守可設定進行帶寬管理，網關在ARQ中填人所需的帶寬，關守判斷有無足夠的帶寬資源，如果資源不足，就拒絕呼叫。由于呼叫所需的帶寬取決于語言編碼的類別、是否采取靜音、每個包帶幾幀數據等；因此，在ARQ中的帶寬應按最大需求申請，在通話開始時，再修改所需帶寬。
4）路由管理：為了提高網絡的可靠性和接通率，對話務流量進行分配，關守提供路由管理。在路由表中，每個區號可以對應多個路由，路由具有優先級，選路時先選高優先級路由，如果高優先級路由擁塞或不可達，再選低優先級的路由。當呼叫跨區域時，雙方的關守可以直接建立聯系，也可以通過上級關守聯系，還可以通過別的同級關守聯系，方式靈活，保證系統的靈活配置和網絡的可靠性。具有相同區號和路由特性的網關可以組成網關組，選路時可以針對網關，也可以針對網關組。對某一網關組選路時，可以按每個網關的優先級，也可以按百分比在網關間進行流量分配。為了在某些情況下能與既不在本關守的控制下，也無法與其關守通信的網關互通，路由還可設為“獨立網關”，直接與之通信。
5）數據庫管理：任何一個完善的應用型業務體系，都離不開大量的數據，IP電話系統也是如此。它包含的數據來源有：系統初始化信息、網絡結構信息、網關配置信息、網絡連接信息、用戶詳細信息以及呼叫記錄信息等。關守提供的一大功能就是數據庫管理，一般來講，關守大都集成了其他的大型數據庫廠商已經成型的產品所提供的功能。在具有多關守的系統中，數據庫管理還應該提供在各個關守服務器之向的復制和備份功能，以保證在出現故障的意外情況下，不發生數據丟失的現象，并且，各服務器的數據應該保持同步更新。
4、網管系統
網管系統的功能是管理整個IP電話系統，包括設備的控制及配置、數據配給、撥號方案管理及負載均衡、遠程監控、鑒權及安全管理等。
5、認證計費系統
認證計費系統利用關守提供的標準、開放的數據接口，將每一次呼叫產生的詳細記錄上傳到本地數據庫，形成計費數據。因此，它可以實現如下的功能：自動生成記賬清單、清單的打印、數據的導出、呼叫的重新計算、呼叫記錄瀏覽、用戶資料上載和自動生成新用戶等。認證計費系統可以由IP電話系統制造商提供，也可以由第三方制作，但此時需IP電話系統制造商提供其軟件數據接口。
