TCP/IP是 Internet的核心，利用 TCP/IP协议可以方便地实现多个网络的无缝连接。通常所谓某台主机在 Internet上，就是指该主机具有一个 Internet地址（即 IP地址），并运行 TCP/IP协议，可以向 Internet上的所有其他主机发送 IP分组。 
TCP/IP的层次模型分为四层，其昀高层相当于 OSI的 5～7层，该层中包括了所有的高层协议，如常见的文件传输协议 FTP、电子邮件协议 SMTP、域名系统 DNS、网络管理协议 SNMP、访问 WWW的超文本传输协议 HTTP等。 
TCP/IP的次高层相当于 OSI的传输层，该层负责在源主机和目的主机之间提供端一端的数据传输服务。这一层上主要定义了两个协议：面向连接的传输控制协议 TCP和无连接的用户数据报协议 UDP。 
TCP/IP的第二层相当于 OSI的网络层，该层负责将分组独立地从信源传送到信宿，主要解决路由选择、阻塞控制及网际互连问题。这一层上定义了互连网协议 IP、地址转换协议 ARP、反向地址转换协议队 RP和互连网控制报文协议 ICMP等协议。 
TCP/IP的昀底层为网络接口层，该层负责将 IP分组封装成适合在物理网络上传输的帧格式并发送出去，或将从物理网络接收到的帧卸装并取出 IP分组递交给高层。这一层与物理网络的具体实现有关，自身并无专用的协议。事实上，任何能传输 IP分组的协议都可以运行。虽然该层一般不需要专门的 TCP/IP协议，各物理网络可使用自己的数据链路层协议和物理层协议，但使用串行线路进行连接时仍需要运行 SLIP或 PPP协议。