一场技术的圣战:rose开源框架之portal

作者:人人网架构师 王志亮  人人网UGC团队博客

2010年的69日是一个圣战的日子,零点一到就有人开始,好戏也如约在晚上7点发生。人人网战场是SJ的公共主页:http://page.renren.com/sj

对不同人,这个日子意味着不同,滋味也不同。作为人人网技术团队,我们要保证服务能力、用户体验能够应付得了这个挑战。

某一个服务器的能力总有限,为了应付突然增长的读写量,web服务架构、内部服务架构、数据库架构等要能够轻松通过服务器调配来满足。就web服务器而言,我们增加了1倍的机器。现在再回头来看监控的数据,一切显得美好。这个期间整个服务做到了服务能力没有中断。除此之外,在这次圣战中,其中还有一项我们独有的技术起到了重要的作用:rose portal ,下面作一个介绍:

图1是sj的主页:

图1 sj在人人网的公共主页

这个页面分为三列:

  • 左边有 “推荐给好友”、“基本信息”、“相册”;
  • 中间有“给SJ留言”、“好友留言”;
  • 右边有“好友”,“人人的用户还关注”等。

在后台,这些被分解为不同的模块,我们称之为”window”。这每一个window都意味着可能连接一个独立的服务集群,比如基本信息服务、留言服务、好友服务、相册服务等等。这样,一个公共主页就等于多个独立的、可配置的window模块组成,如图2所示 :

图2 公共主页的window模块组成

随着伟大圣战的深入,这个页面就变成这样(右边的栏目不见了),如图3所示

图3 圣战进行中时模块的自动保护

产品同学看到此情此景,仍然很开心:“只要留言的window能在,其它的没在不要紧”

但是不一会,继续恶化,如图4所示:

图4 圣战进行中压力进一步增加

甚至到了图5的情形:

图5 圣战进行中压力进一步增加

黄晶看着公共主页呈现出这种状况时,笑着形容这样的图“缺胳膊少腿”:“怎么还没加机器”。当公共主页技术团队把机器逐步增加一倍的时候,这种情况变少了,甚至就没有了。

虽然这些页面看起来“缺胳膊少腿”,但要知道在以前,这种情况,我们整个页面的某个模块堵了可会导致用户浏览器长期空白,直至最后提示网页不可显示。这给用户带来很不好的体验,同时因为网页一直不释放连接,恶性循环导致web服务器最后全哑了。

好在,早在半年前我们开发了rose portal框架,解决了此问题,rose portal是一个服务端portal技术,基于rose框架 (也就是servlet容器) 下的服务端portal技术,rose portal不是Java常说的portlet技术,也不是基于ajax的客户端portal技术。

rose poral提供这些特性;

  1. 能够将一个页面分为多个窗口;
  2. 开发者使用一个主控制器,在主控制器中不断通过portal.addWindow方法,将请求并发转发给多个窗口;
  3. 每个窗口有单独的控制器处理逻辑、可以返回独立视图就像一个web请求一样;
  4. 框架能够处理并发转发并发逻辑处理并发渲染,并最后统一返回把html输出给浏览器;
  5. 提供了“整体超时控制”手段,使得某个窗口因一时服务能力下降时不影响整个页面的输出;

这里有一个portal开发示例:

http://code.google.com/p/paoding-rose/wiki/Rose_Portal_Demo

献上现在最新的sj主页(2010/6/10 10:46作为结束,如图6,目前粉丝 粉丝 21w+、留言146w+,谢谢(另感谢李伟博同学,以上图片均是他收集的)

图6 最新的sj主页

转帖到人人网 分享到人人网

23 条评论

  1. 阎斌 说:

    orz,伟大的portal并发架构

  2. crackcell 说:

    比较感兴趣每个window后面对应的集群如何处理请求的。

  3. aw 说:

    分块加载的思路还有并发转发、并发逻辑处理、并发渲染,统一返回HTML输出很有意思。

  4. Hugo 说:

    人人网怎么分享这个文章?说站内内容可以直接分享,但是我没找到可以分享的地方

  5. eliot 说:

    强大,能否共享的再多点

  6. 博百优 说:

    哇 貌似很强悍。

  7. 开源 说:

    支持开源框架,不知道学习曲线如何

  8. xLight 说:

    简单说来,一个网站随着流量的增长,要逐渐添加服务器,

    开始是多台服务器顶1个网站
    然后是多台服务器顶1的应用
    再后是多台服务器顶1个页面(分多个模块)
    再后来呢?多个服务器顶1个模块

    大概就是这样的路线。

  9. laoqi 说:

    想请教一下,人人网的数据库访问中间层用了什么框架?

  10. 同安 说:

    是啊。。。。开源不错啊!!!加油!!

    多学习!!

  11. 不错!!RENREN越来越用户体验了!!

  12. ybs885 说:

    学习曲线?????

  13. 阎斌 说:

    顺序执行变并发执行,将单一任务打散成可并行执行的小任务~伟大

  14. 孙echo 说:

    希望多跟大家学习,

  15. 学习恩啦,不错,以后会常来看看。。

  16. wchswchs 说:

    国外早有人实现了吧

  17. 说真的, 我现在都还没有注册 人人网!

  18. tiger.wang 说:

    两条建议:
    1、请人人网各位大侠多发表一些文章,以造福广大读者。
    2、paoding-rose中spring升级到3.x吧。

  19. 药妆 说:

    很强悍的东西

  20. 来学习了. 小站.只能慢慢搞

  21. cg 说:

    不太明白服务器端的“并发渲染”是什么意思,渲染不是在浏览器做的么?

  22. 并发渲染 就是多台计算机一起工作吧!

    同步进行。 是这个意思吗?

留下回复