目前电信IP电话系统一般由IP电话终端、网关（Gateway）、关守（Gatekeeper）、网管系统、认证计费系统等几部分组成。下图1给出了典型的电话系统组成结构。
1、终端
IP电话终端包括传统的语音电话机、PC、IP电话机，也可以是集语音、数据和图像于一体的多媒体业务终端。
2、网关
由于不同种类的终端产生的数据源的结构是不同的，要在同一个网络上传输，这就要由网关或者是通过一个适配器进行数据转换，形成统一的IP数据包。网关是IP电话的核心与关键设备。网关具有路由管理功能，它把各地区电话区号映射为相应的地区网关IP地址。这些信息存放在一个数据库中，有关处理软件完成呼叫处理、数字语音打包、路由管理等功能。在用户拨打IP电话时，IP电话网关根据电话区号数据库资料，确定相应网关的IP地址，并将此IP地址加入IP数据包中，同时选择最佳路由，以减少传输时延，IP数据包经因特网到达目的地IP电话网关。对于因特网未延伸到或暂时未设立网关的地区，可设置路由，由最近的网关通过长途电话网转接，实现通信业务。
通常，网关由公用电话网PSTN中继接口、数字信号处理板、主处理器、全局RAM以及以大网卡等设备组成。PSTN中继接口连接电话网，利用中继线（如E1或T1）承载用户数据，主要接续呼叫信息及承载用户的语音信息。DSP处理板是网关硬件结构中必不可少的设备。由于要处理实时的语音信号压缩、DTMF信号的检测与产生、回波消除等工作，若所有的工作都由主机CPU来完成，则负担过重，、实时性能受到影响，会造成语音质量下降，且同时通信的会话数较少，不能满足大量用户通信的要求。采用DSP的好处是所有上述工作都由DSP来实时完成，减轻了主机CPU的负担，并且DSP能同时提供多个话路，能够完成双工的操作。全局RAM主要用于缓存语音信息和信令报文，便于顺序重组发送方发送过来的语音信息，使得接收方能够接收到连续的报文，合成连续的语音，减少了语音抖动的现象、使接收方听到比较舒服的声音信号。
3、关守
关守实际上是IP电话网的智能集线器，是整个系统的服务平台，负责系统的统一管理、配置和维护。目前，各个厂家都有自己的关守服务器的设计方案和产品，可能它们在具体功能和实现手段上有差别，但一般来讲，都具有以下几个共同的特征：呼叫控制功能，地址翻译、带宽管理、路由管理、数据库管理和备份等。
1）呼叫控制功能：当呼叫来到时，关守对呼叫进行验证，符合业务要求的呼叫才被许可通过，并给予一个可连接网关的地址。以电话到电话的呼叫过程为例，见下图2。主叫方电话要先连接到本地的网关，输人用户账号和密码。本地网关把呼叫请求发送到关守，关守对用户账号和密码进行检验，验证该用户是否经过呼叫授权。通过授权检验后，关守搜索合适的对端网关，并向本地网关返回对端网关的地址。最后，本地网关将呼叫传送到远端的网关，通信开始建立。
图2：电话到电话的呼叫过程
2）地址解析：网关在用户认证完成后，接受被叫号码，接收完被叫号码后把号码用ARQ送给关守，关守在路由表中查找目的网关的IP地址，如果目的网关不在本区域中，向上级关守或邻近关守请求在别的区域中查找。找到目的网关后在ACF中返回其IP地址，未找到返回ARJ。
3）带宽管理：由于每个网关接入到Intemet的带宽有限，为了避免在话务高峰期造成网络拥塞，影响所有的呼叫，关守可设定进行带宽管理，网关在ARQ中填人所需的带宽，关守判断有无足够的带宽资源，如果资源不足，就拒绝呼叫。由于呼叫所需的带宽取决于语言编码的类别、是否采取静音、每个包带几帧数据等；因此，在ARQ中的带宽应按最大需求申请，在通话开始时，再修改所需带宽。
4）路由管理：为了提高网络的可靠性和接通率，对话务流量进行分配，关守提供路由管理。在路由表中，每个区号可以对应多个路由，路由具有优先级，选路时先选高优先级路由，如果高优先级路由拥塞或不可达，再选低优先级的路由。当呼叫跨区域时，双方的关守可以直接建立联系，也可以通过上级关守联系，还可以通过别的同级关守联系，方式灵活，保证系统的灵活配置和网络的可靠性。具有相同区号和路由特性的网关可以组成网关组，选路时可以针对网关，也可以针对网关组。对某一网关组选路时，可以按每个网关的优先级，也可以按百分比在网关间进行流量分配。为了在某些情况下能与既不在本关守的控制下，也无法与其关守通信的网关互通，路由还可设为“独立网关”，直接与之通信。
5）数据库管理：任何一个完善的应用型业务体系，都离不开大量的数据，IP电话系统也是如此。它包含的数据来源有：系统初始化信息、网络结构信息、网关配置信息、网络连接信息、用户详细信息以及呼叫记录信息等。关守提供的一大功能就是数据库管理，一般来讲，关守大都集成了其他的大型数据库厂商已经成型的产品所提供的功能。在具有多关守的系统中，数据库管理还应该提供在各个关守服务器之向的复制和备份功能，以保证在出现故障的意外情况下，不发生数据丢失的现象，并且，各服务器的数据应该保持同步更新。
4、网管系统
网管系统的功能是管理整个IP电话系统，包括设备的控制及配置、数据配给、拨号方案管理及负载均衡、远程监控、鉴权及安全管理等。
5、认证计费系统
认证计费系统利用关守提供的标准、开放的数据接口，将每一次呼叫产生的详细记录上传到本地数据库，形成计费数据。因此，它可以实现如下的功能：自动生成记账清单、清单的打印、数据的导出、呼叫的重新计算、呼叫记录浏览、用户资料上载和自动生成新用户等。认证计费系统可以由IP电话系统制造商提供，也可以由第三方制作，但此时需IP电话系统制造商提供其软件数据接口。
