Skip to content
forked from tywo45/t-io

t-io是基于jdk aio(nio2)实现的易学易用、稳定耐操、性能强悍、将多线程运用到极致、内置功能丰富、核心代码只有3000多行(2017年05月13号统计)的即时通讯框架(广义上的即时通讯,并非指im),字母 t 寓意talent。

Notifications You must be signed in to change notification settings

Imaginary11/t-io

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

53 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

t-io: 百万级TCP长连接即时通讯框架,让天下没有难开发的即时通讯

  • t-io是基于jdk aio实现的易学易用、稳定、性能强悍、将多线程运用到极致、内置功能丰富、核心代码只有3000多行(2017年05月13号统计)的即时通讯框架(广义上的即时通讯,并非指im),字母 t 寓意talent。
  • 同类型的框架还有voovannettyminabaseio等,不喜欢t-io的可以去尝试了解这几个,t-io对所有人按LGPL协议开源,但只服务于品行良好的开发人员!

常见应用场景

  • IM(官方提供了im例子,含web端)
  • 实时监控
  • 推送服务(已内置API)
  • RPC
  • 游戏
  • 物联网(已有很多案例)
  • 其它实时通讯类型的场景,不一一列举

晒一下作者花两天时间用t-io和layim做的web im(服务器由某公司免费提供,只有2M带宽,最近被Ddos攻击,所以随时都可能暂停而导致你访问失败)

  • 先感谢一下贤心提供这么好的ui作品,也欢迎大家去捐赠获取layim,本人捐赠了layim只是贤心又零差价地回捐了t-io
  • 东西刚刚出来,还需要打磨,有问题在所难免,毕竟只花了两天时间。
  • 演示地址(2M带宽,请勿压测,谢谢!)
  • 截图

image


image


重点强调

maven坐标

<dependency>
    <groupId>org.t-io</groupId>
    <artifactId>tio-core</artifactId>
    <version>1.7.0.v20170501-RELEASE</version>
</dependency>

t-io特点

极简洁、清晰、易懂的API

  • 没有生涩难懂的新概念,原生态bytebuffer既减少学习成本,又减少各种中间对象的创建
  • 只需花上30分钟学习helloworld,就能较好地掌握并实现一个性能极好的即时通讯应用

极震撼的性能

  • 单机轻松支持百万级tcp长连接,彻底甩开业界C1000K烦恼(不过现在已经有不少公司已经搞定c1000K问题了);
  • 最高时,每秒可以收发500万条业务消息,约165M(1.6.9版本数据,想验证的,后面有验证步骤

对开发人员极体贴的内置功能

  • 内置心跳检测
  • 内置心跳发送
  • 各种便捷的绑定API
  • 各种便捷的发送API
  • 一行代码拥有自动重连功能
  • 各项消息统计等功能,全部一键内置搞定,省却各种烦恼

一张思维导图胜过千言万语(部分方法在未发布的1.7.1版本中)


image


各种传送门

性能数据

  • 需要验证的,请按后面提供的验证步骤来,对于t-io的数据,要么相信作者所说,要么自己亲手去测,网上的抹黑造谣谩骂很多,但真理来自测试。验证完毕后,自己偷着乐就好,注意规避网上那些喷子,不要回复他们(t-io被黑了几个月,这两天,作者本人抓住确凿证据后正面回应了两个人,结果引来了更多的喷子(简单点看了几个 人,基本是些活跃度和访问量极低的用户),前车之鉴)。如果你对测试数据还有疑问,可以debug进去看看各个步骤,重点是多沟通,防止误判
  • IM实例收发速度500万条/秒----此数据系网友提供(i7 6700 + 固态硬盘 + win10),作者本地只跑到了333万/秒
  • IM实例17.82万TCP长连接且正常收发消息只消耗800M内存,CPU使用率极低,目测t-io可以支撑200万长连接
  • 17.82万长连接 + 各种破坏性测试,服务器内存保持稳定(600多M到900M间)

性能测试步骤

测试单机吞吐量(实际上就是非网络环境啦)

  1. 机器准备
    • CPU: i7 6700 / i7 4790
    • 内存:8G/4G
    • 操作系统:windows7/windows10
    • 说明:客户机和服务器位于同一台机器
  2. 测试步骤
    • 参数调优:修改t-io\dist\examples\im\client\startup.bat,把-Dtio.default.read.buffer.size=512的值换成4096
    • 参数调优:修改t-io\dist\examples\im\server\startup.bat,把-Dtio.default.read.buffer.size=512的值换成4096
    • 双击 "bin/start-im-server.bat" 启动im server
    • 双击 "bin/start-im-client.bat" 启动im client
    • 保持下图参数进行测试(强调:你需要多试几次,前面几次的性能数据是最差的,貌似跟线程池的预热有关系,有研究的朋友可以交流一下image
  3. 测试结果
    • 500万条/秒约165M----此数据系网友提供(i7 6700 + 固态硬盘 + win10)
    • 333万条/秒约97M----此数据系本人亲测数据(i7 4790 + 固态硬盘 + win7),测试参数与上图略有差别,不一一说明
  4. 测试说明
    • 数据中的消息条数指的是业务包,不是指tcp的交互次数,了解tcp协议的人知道,tcp是双向确认可靠的传输协议,对业务而言,其实并不关心tcp了多少次,而是我们的业务数据收发了多少条。
    • 请用t-io 1.6.9分支进行测试,1.7.0加了链路行为跟踪功能、1.7.1会加上ip防黑功能,这些功能会使t-io框架本身的性能降低(就像操作系统一个开了防火墙,一个没开防火墙,性能不是一个级别的)。作为一个io框架,其实并不需要实现这些功能,但是为了让业务层更舒服,t-io还是舍弃了亮眼的性能数据去拥抱更实用的业务层功能。
    • netty是一个知名度极高的一个框架,而且功能更多,t-io如果满足不了你或不是你的菜,可以尝试netty

测试centos下可以支持多少长连接数

  1. 机器准备
    • 服务器一台:centos6.x, 虚拟机,一个4核E5 CPU,内存16G
    • 客户机11台:windows,硬件没什么特别要求,能跑起1.62万个长连接,配置不低得离谱就行
  2. 测试步骤
    • 修改centos操作系统参数,使之支持更大的长连接数,细节略(可百度之)
    • 在centos上运行 "bin/start-im-server.sh" 启动im server
    • 修改dist\examples\im\client\config\app.conf,参考下面的值,注意把server指向centos的ip
        #服务器
        server=127.0.0.1
        
        #服务器port
        port=9321
        
        #连接多少个连接到服务器
        client.count=16200
        
        #进入到哪个组
        group=g
        
        #聊天消息发的内容
        chat.content=he
        
        #一次发多少条(这个数字不要太大)
        send.count=1
    
    • 把dist\examples\im\client拷到各客户机并运行"bin/start-im-client.bat"
  3. 测试结果
    • 11个客户机 ,每个客户机连16200个TCP连接,服务器一共承受17.82万TCP长连接,服务器内存只消耗800M,CPU使用率极低(其中有一台客户担任破坏性测试机)
    • 根据测试结果初步推测:乐观点:t-io支持200万长连接没什么问题,保守点:100万吧,各位有条件的可以测测,毕竟推测的数据有时候会让人跌眼境。
  4. 测试说明
    • 因为这17.82万长连接位于同一个组中,你用客户机发一条消息,服务器就要推送17.82万条数据,所以在发消息时,请慎重,当然如果你非要把内存、CPU耗光,然后看t-io宕机才高兴,只能说t-io不是你的菜,你还是另请高明吧。
    • 这些数据是1.6.9版本测出来的,1.7.0加了链路行为跟踪功能、1.7.1会加上ip防黑功能,这些功能的增加对tcp长连接个数没什么影响,但是可能内存会增加一些,毕竟多了不少维护数据。
    • 不管怎么说,用在生产环境,不管用什么框架,都是要自己测一遍的,有问题可以随时找作者,不接受恶意找茬,同时作为开源免费软件,作者也有权拒绝一切服务,这点请知悉----开源,只是把代码本身按照某种协议贡献出来,并无义务给你服务,你用得不爽,请另请高明。
    • netty是一个知名度极高的一个框架,而且功能更多,t-io如果满足不了你或不是你的菜,可以尝试netty

t-io学习步骤(供参考,具体步骤根据各人而异)

学习t-io的最好方式,是从helloworld的例子入手,顺瓜摸藤阅读t-io的源代码,已经有很多人阅读过t-io的源代码,譬如j-net的作者、hutool的作者、天蓬小猪守护天使,并且反馈良好,源代码毕竟只有3000多行,读读无妨!如果懒于阅读代码,就按照下面的步骤来学习吧!

初步认识t-io

  • 安装1.7以上版本的jdk及maven(已安装的略过此步骤)
  • https://git.oschina.net/tywo45/t-io处下载源代码(已下载的略过此步骤)
  • 双击 "bin/start-im-server.bat" 启动im server
  • 双击 "bin/start-im-client.bat" 启动im client
  • 对着界面把玩几下,测试一把性能数据,对t-io形成感性认识(注意:好的性能数据需要预热几把,让线程池活起来)
  • 熟悉客户端界面(版本不一样,此界面会不一样,以实物为准) image
  • 服务器端界面(版本不一样,此界面会不一样,以实物为准) image

了解代码目录结构

所有工程都是maven工程,后续目录有可能稍有变动,不定期更新

├─bin----------------脚本目录(方便快速操作)
│      clean.bat----------------清空所有工程的target目录
│      clean.sh
│      deploy.bat----------------作者用来发布到maven中心仓库的脚本,放出来主要是供大家参考
│      deploy.sh
│      dist-examples.bat----------------把所有的例子打包到dist目录,方便用户直接执行
│      dist-examples.sh
│      install.bat----------------安装工程到本地仓库
│      install.sh
│      start-helloworld-client.bat----------------启动helloworld的客户端
│      start-helloworld-client.sh
│      start-helloworld-server.bat----------------启动helloworld的服务端
│      start-helloworld-server.sh
│      start-im-client.bat----------------启动im的客户端
│      start-im-client.sh
│      start-im-server.bat----------------启动im的服务端
│      start-im-server.sh
│      start-im-simple-client.bat----------------启动简化版协议的im的客户端
│      start-im-simple-client.sh
│      start-im-simple-server.bat----------------启动简化版协议的im的服务端
│      start-im-simple-server.sh
│      start-showcase-client.bat----------------启动showcase的客户端
│      start-showcase-client.sh
│      start-showcase-server.bat----------------启动showcase的服务端
│      start-showcase-server.sh
├─docs
│  │  
│  ├─blog----------------本人博客草稿(大部分博客是在线编辑,所以此处就没有了)
│  │      
│  ├─performance----------------一些性能测试截图(随着版本的增多,有些截图已经过时,但仍保留)
│  │
│  ├─release----------------新版本发布时的log
│  
├─dist----------------成品
│  └─examples----------------用t-io写的例子成品
│      ├─helloworld
│      │  ├─client----------------helloworld的客户端
│      │  └─server----------------helloworld的服务端
│      ├─im
│      │  ├─client----------------im的客户端
│      │  └─server----------------im的服务端
│      │─im-simple
│      │  ├─client----------------简化版协议的im的客户端
│      │  └─server----------------简化版协议的im的服务端
│      └─showcase
│          ├─client----------------showcase的客户端
│          └─server----------------showcase的服务端
└─src
    ├─core----------------t-io的核心代码
    ├─example----------------用t-io写的例子的源代码
    │  ├─parent----------------例子的maven parent
    │  ├─helloworld----------------helloworld的源代码
    │  │  ├─client
    │  │  ├─common
    │  │  └─server
    │  ├─im----------------im的源代码
    │  │  ├─client
    │  │  ├─common
    │  │  └─server
    │  ├─im-simple----------------简化版协议的im的源代码
    │  │  ├─client
    │  │  ├─common
    │  │  └─server
    │  └─showcase----------------showcase的源代码,这个例子是为了帮助用户学习t-io专门写的
    │      ├─client
    │      ├─common
    │      └─server
    └─parent----------------maven工程的parent

导入t-io官方提供的例子

t-io码云托管地址下载源代码及例子,里面的showcase例子是专门为学习t-io而写的,其设计也是准生产级别的,可以直接拿来做您项目的手脚架。下载完成后,请按下面步骤导入到eclipse中 image

image

image

学习万能的helloworld例子

花30分钟看一下t-io官方提供的helloworld,了解一下TCP编程的大概流程,文档传送门: t-io的hello world

学习用于进阶的showcase例子

showcase一词是从springside借来的,放这很应景,天蓬元帅就是这样学习的,可以和他交流,他后面会出详细的教程。

案 例

案例太多,此处仅列举t-io开源第一个月内的案例,你也可以来t-io开源中国收录地址看看其它网友们反馈的案例

  • 某网管系统(管理数百台刀片服务器的系统)
  • 某直播平台(视频直播+聊天)
  • 某智能设备检测系统(数据采集)
  • 某物联网系统(服务端)
  • 深圳市某在线技术发展有限公司(中银联投资):某网络安全运营支撑平台
  • redisx
  • talent_dubbo
  • 某移动省公司CRM业务受理消息采集平台(数据采集)

列一下作者本人用过的国产开源软件

网上很多人对国产开源的印象还停留在n年前,此处列一下作者本人一直在用的部分国产开源软件,其中有的是有争议的,也有暴过漏洞的,但是我们想一下struts、netty、mongodb这些国外知名软件不也暴过严重漏洞吗?

  1. https://www.oschina.net/p/weixin-java-tools-new (使用一年)
  2. http://layim.layui.com(2017年5月11号开始使用)
  3. https://www.oschina.net/p/ztree (使用五年以上吧)
  4. https://www.oschina.net/p/echarts (使用两年以上吧)
  5. http://git.oschina.net/tywo45/talent-validate (使用十年了,开源出来有五年以上吧,原来是博客开源,现在移到开源中国了)
  6. https://www.oschina.net/p/hutool(使用两个月)
  7. https://www.oschina.net/p/t-io(使用五年了,开源出来半年)
  8. https://www.oschina.net/p/druid(使用三年以上吧)
  9. https://www.oschina.net/p/dubbo(使用两年)
  10. https://git.oschina.net/jfinal/jfinal-weixin(使用一年左右)
  11. https://www.oschina.net/p/fastjson(使用三年以上)

参与t-io

  • t-io是将多线程技巧运用到极致的框架,所以一旦您参与到本项目,将会从本项目中学到很多关于多线程的技巧。
  • 提交Issue 给项目提出有意义的新需求,或是帮项目发现BUG,或是上传你本地测试的一些数据让作者参考以便进一步优化。
  • 点击右上方的watch可以时刻掌握t-io的动态,点击star以示精神支持,点击fork以备不时之需

t-io本身是类似netty这样的框架的,它可以完成很多功能,譬如rpc、im等,把rpc、im比作鱼,t-io就是渔具,指望作者一个去用这个渔捞很多鱼,然后分给大家,这个不太现实的。天朝的环境,做有口碑的开源极难,不光要免费提供很多服务,还要忍受喷子槽子黑子谣言谩骂,所以作者计划建立一个t-io生态圈建设,目的是让有志之士用t-io这个超级捕渔利器来捕获更多的鱼,然后把这些鱼卖了变现或免费分享给大家

image

About

t-io是基于jdk aio(nio2)实现的易学易用、稳定耐操、性能强悍、将多线程运用到极致、内置功能丰富、核心代码只有3000多行(2017年05月13号统计)的即时通讯框架(广义上的即时通讯,并非指im),字母 t 寓意talent。

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • JavaScript 58.2%
  • Java 39.3%
  • Batchfile 0.9%
  • Protocol Buffer 0.8%
  • Shell 0.3%
  • Nginx 0.2%
  • Other 0.3%