作者文章: Fenng

学习 Flickr 的基于 LAMP 的容量规划经验

好久没怎么正式更新 Blog 了，快荒芜了，长满了 Spam 的荒草。

最近其实发现了不少可以和大家一起学习的好内容。Flickr 的 John Allspaw 在 MySQL Conf 2007 作了一个题为 Capacity planning for LAMP (下载PDF文件) 的技术报告，说起容量规划，多少有点空对空的意思，不过这个 PPT 还是介绍了不少 Flickr 的网站运维经验。

Flickr 的数据量的确越来越惊人了，根据文档中透漏的数据：

Squid Cache 中共有 3500 万张图片；
在 Squid RAM 中有 200 万张图片；
4.7亿的图片，每张图片有4到5种尺寸；
每秒钟 38000 个到 memcached 的请求;
2 PB 裸存储容量(周日需要消耗1.5T 的空间)

三个主要步骤：

计划

基于实际业务，而不是抽象的理论。John Allspaw 认为基准测试(Benchmark) 作用并不大，这一点我也很赞同。在业务频繁变化的环境中，Benchmark 根本不能与实际业务情况匹配。

部署

Flickr 使用SystemImager/SystemConfigurator(自动化安装、软件分发)，CVSup(网络中的文件分发、更新)，Subcon(配置管理工具)提高部署效率。

度量(图形化展现)

Flickr 使用了 Ganglia 来进行容量数据的展现。Ganglia 最初设计是用于高性能集群计算的监控上面，也是以 RRDTool 为基础来进行图形展示。Ganglia 最主要的优点还是管理的方便性: Client/Server 结构, 各自跑 Demon 进行数据交互(XML形式)。相比起来， Cacti + Collectd 需要进行很多手工配置，在面对大量需要监控的主机的时候的确不那么方便。

Web 2.0 站点的运维似乎大家都在摸索着走。期望这次阿里巴巴组织的侠客行大会上也有有朋友坐下来聊聊这个话题(Flickr 的架构师本来可以来的，因为时间的问题不能成行，挺遗憾的)。

–EOF–

睡不着

可能是最近太累，昨天一口气从一点睡到了18点，邻居家的装修都没能让我清醒。当然中午的时候还是清醒了一会儿吃了一点东西就接着睡的。
结果晚上无论如何也睡不着。干躺了几个小时，干脆还是起来算了。
清晨小区里的鸟叫的不是一般的欢。不知道是什么鸟，反正这种鸟杭州特别多。
–EOF–

AIX RAW LVM 的 4k Offset 问题

这可能是 Oracle 在 AIX 平台上最重要的一个潜在问题。

一般情况下，AIX 的逻辑卷前 4k 用于存储 control block (LVCB)，在 Oracle 9iR2 之前，Oracle 软件自动跳过这 4k 而不用。这带来了一个潜在的问题，当 Oracle 的 db_block_size 大于 4k 的时候，一个 Block 可能跨在两个 PV/LUN/磁盘上(如果做了条带化，那么将总有数据块跨在两个条带上–其实也还是将跨在不同的 PV/LUN/磁盘上。这样当系统崩溃的时候，很有可能造成大量的 IO 不完整，一个 PV 上 IO 写入，另一边可能未完成，启动 Oracle 的时候将会看到 ORA-1578 错误，这几乎是致命的。

为了解决这个问题，AIX 推出了 Big Volume Groups 作为应对。建立 Big VG 后，创建 LV 的时候可以通过 -T O 的参数强制征用 LV 的前 4K 空间， LVCB 的信息保存在 VGDA(volume group describe area) 里面。前 4k 空间被使用的 LV 有了一个新的设备子类型(devsubtype)标记: DS_LVZ，通过 lslv 可以看到。(Oracle 也在 9.2.0.3 之后自动识别 AIX 的新 LV 类型，直接开始使用 LV 的前 4K 空间)

对于 AIX 的可扩展性 VG，则默认创建的 LV 就会 DS_LVZ 类型，不使用－T O 也是这样子。Big VG 可能只是一个过度类型。

在 IBM 的系统手册中可以看到：

The IOCINFO ioctl operation returns the devinfo structure, as defined in the /usr/include/sys/devinfo.h file

如何知道当前裸设备创建的时候使用了 -TO ? Oracle 10g 的文档中说 $ORACLE_HOME/bin/offset 工具可以做到。可是我居然找不到这个工具。莫非是忽悠人来着? 通过另一个工具可以看到相关信息：

$ dbfsize /dev/rfoo01_pay
Database file: /dev/rfoo01_pay
Database file type: raw device without 4K starting offset
Database file size: 920 8192 byte blocks

要想得到完美的东西太难了， AIX 在 BIG VG 上仍然还有很多问题，目前已知的当属这个“MKLV -TO ON BIG VOLUME GROUPS FAILS TO PUT SOME LV INFORMATION”最为严重–得不到正确的devsubtype 类型，Oracle 则会报告读取数据文件头错误，这个更要人命。
DBA 这个工作，还真是脑袋悬在腰带上，风险莫测。
–EOF–
Updated: offset 命令工具需要安装 RAC 组件才可用，Oracle 另外提供了一个补丁来弥补这个问题，在 Patch 3242957 中可以找到，直接解压缩，把工具提取出来即可用。

SI Object Browser 尝试进入中国,正在寻找合作伙伴

前几天收到了一封来自 SI Object Browser 公司人员的一封电子邮件，说这款来自日本的数据库工具正在中国寻找商业合作伙伴。(邮件里说是通过 ACE 的页面找到的我)
要不是收到这封邮件可能我还不知道 SI Object Browser 这款数据库工具。据说这个工具在日本市场”very popular”:

SI Object Browser is a development tool for Oracle database, providing
all required functions, SQL creation, Object creation, removal of
stored program’s bugs in the operation by GUI(Graphical User
Interface), which can contribute to your database development
productivity. And it prepares functions for DBA, data export, user
monitoring and tracing. SI Object Browser provides and prepares any
other many functions for Oracle development, and we’ve already
distributed 90,000 licenses over in Japan since released in 1997.

以前倒是对来自日本的另外一个数据库性能优化工具 Performance Insight(PI) 挺有兴趣的，不过据我所知，这个 PI 在国内也没什么市场。还不如卖服务更容易让用户接受。
这些第三方 Oracle 开发工具，包括 Quest 的 Toad，国内的用户群体还是不小的，但是掏钱买 License 的寥寥无几，抛开国内用盗版的一贯习性，另外一个主要原因还是和价格策略有关吧。我们的收入毕竟和欧美的还有很大差距。
话说回来，如果国内有哪家代理商愿意与 SI Object Browser 合作，可以直接着他们联系，或者我代为转达。
–EOF–