架构高性价比的分布式计算机集群

架构高性价比的分布式计算机集群.txt机会就像秃子头上一根毛，你抓住就抓住了，抓不住就没了。我和你说了10分钟的话，但却没有和你产生任何争论。那么，我们之间一定有个人变得虚伪无比！过错是短暂的遗憾，错过是永远的遗憾。相遇是缘，相知是份，相爱是约定，相守才是真爱。架构高性价比的分布式计算机集群.txt我这辈子只有两件事不会：这也不会，那也不会。人家有的是背景，而我有的是背影。肉的理想，白菜的命。肉的理想，白菜的命。白马啊你死去哪了！是不是你把王子弄丢了不敢来见我了。架构高性价比的分布式计算机集群正如你所看到的一样，你的机器在绝大多数时间是空闲的，如果你在Windows下用任务管理器或其他的Linux平台的工具（例如top，xload）观察CPU，你会看到CPU的使用率常见在1～2%。事实上，如果你有更多的计算机，这种浪费会加剧，在一个有300台计算机的部门里，CPU的空闲率是惊人的。然而这些部门还是需要强大的服务器用来编译或模拟计算，这样的情况还会加剧，不止需要一台，因为随着用户的增加，即使是8个CPU的服务器，满负荷时也不能把任务交给另外的空闲服务器，因为用户很少会改变习惯去登陆另外一台服务器。如果能利用现有的计算资源，把空闲的CPU利用起来，或者能让服务器智能的迁移负荷，就是你看下去的理由。集群的基本单位是单独的计算机，称为节点(node)。其可增长的特性，称为延展性(Scale)，也就是向集群中加入计算机。集群没有严格的定义，可以说就是许多利用高速联接的，具有高速运算能力的，具有单一用户界面的计算机组合。这并不是集群的定义，而是表面现象的描述。集群中的节点需要硬件尽可能的一致，不一致的硬件集群称为异构集群，虽然这并不能改变集群的特性，但是异构导致集群会花费额外的时间来处理由于异构带来的延迟，另一方面这也是集群的优势，任何其他的多CPU系统都是严格要求CPU是一致的，集群就有足够的自由度增减节点，不受类型的限制。本文选择MOSIX作为集群的方案，并使用无盘节点。架构集群并没有想象中那样复杂，参考下面的步骤可以一步步的架构集群，整个的方案并不是很昂贵，而且便于扩展。使用RedHat是因为在中国这是最有权威的版本，不论是初学者还是专业工作者，都可以在RedHatLinux中定制自己的版本。使用终端服务器LTSP是因为结构简单，便于快速扩展。使用的硬件是可以改进的，比如使用双CPU的主板和至强处理器，这样单一机柜中处理器就密集到48块CPU，本例中可以使用24块CPU。除了CPU以外，还可以使用千兆网卡或光纤网卡，交换机可以使用光纤交换机，内存总数可以达到48GB。但是随着硬件的升级，整体价格就会过高，而性能的提升并不是按比例的，因此本例的配置是性价比较好的组合。MOSIX是利用给内核源代码加补丁的办法，增加内核的功能来达到内核级的集群支持，通过编译后的内核启动的系统间类似SMP多处理器的系统，从外面的角度看只有一台有很多处理器的庞大机器，但是内部是用很多机器架构成的。而MOSIX集群的特点是对用户透明，原有的应用程序不需要修改代码即可以在集群中分布计算。有几种情况是不需要使用集群系统的，使用类似网格计算的脚本就可以完成计算，比如三维动画的渲染，这类计算可以使用不同的节点，不需要对称的硬件，不需要一致的操作系统（需要应用具有支持不同操作系统的版本），只需要按照处理器来分割渲染的任务段，在每个节点上运行相应的任务段，然后合成所有节点的计算结果。因为计算数据是离散的（结果的连续是视觉的连续），因此用类似网格计算的脚本也可以完成。这类计算不需要使用集群也可以完成。下面本文将告诉你如何准备硬件和软机环境。首先是规划你的计算环境。规划计算环境硬件环境：1.49U标准机柜，安装1U的交换机，24台2U机架式机箱。2.1U的24口100MB交换机（不是集线器）3.IntelP42GHzCPU，1GBDDR，Intel845D主板，软驱，NVIDIA显卡（能启动XWindows就可以），2U机架式机箱，3C905B10/100MB自适应网卡，网关需要配置光驱，80GB硬盘和双网卡。4.5类线，按照693A压3米网线24根。5.显示器，键盘，鼠标仅在安装时使用。软件环境和必要的安装包（除特殊说明外，高版本不一定适用）：1.Redhat7.2CD1和CD2安装光盘文件，最新的版本是1.7.0内核文件，最新的版本是1.7.0分支版本的通用内核，最新的版本是2.4.19分支版本的新处理器内核，最新的版本是2.4.19分支版本的多处理器内核，最新的版本是2.4.19网络配置环境：1.网关对外网卡配置10.193.15.169，子网掩码255.255.255.0给内部网使用，用于登录和提交进程。2.网关对内网卡配置192.168.0.254，子网掩码255.255.255.0，网关为10.193.15.169给集群用于DHCP服务器，NFS服务器，LTSP服务器。3.网关对内网卡配置DHCP，分配地址从192.168.0.100到192.168.0.253，子网掩码255.255.255.0，都是C类。当以上条件都具备时，可以开始架构MOSIX集群。1.安装所有硬件，并能确保可以从光盘启动网关服务器系统，节点可以使用软盘启动，检查BIOS的启动设置，并确认可以正确启动。将所有节点和交换机安装到机柜上，用网线连接交换机和各节点，网关需要额外的网线连接到局域网，因为可以称集群计算环境为计算场(ComputingFarm)，因此对应局域网称集群系统的网络为计算网络。连接好电源后，使用两套显示器和键盘鼠标，分别连接一台节点机和网关服务器。安装RedHat7.2版本在具有两块网卡的网关服务器上，分区使用自动分区（比较简单，本文不讨论Linux其他问题），选择定制安装，但不要安装所有的软件包，除缺省的选择外，需要额外选择软件开发和内核开发两组软件包，安装时没有选择的软件包，可以在系统正常启动后参考如何编译内核中的软件包来安装。安装到网络配置时，按照网络环境配置IP地址，需要配置DNS的需要修改对外网卡的设置，使用小写mosix为主机名。安装完后需要验证网关服务器可以正常启动，按照个人喜好来设定系统，推荐使用文本模式，图形模式资源消耗较大。另外需要连接到RedHat网站升级有缺陷的软件包，减少系统漏洞，注意别把内核也升级了，并不是因为本文的操作，而是内核升级后，系统很可能启动失败，本文将自己编译内核。升级完成后重启，再次确认系统没有任何错误。3.安装MOSIX包(openmosix的安装是另外的分支)需要很多步骤，注意操作步骤的准确性：A，将所有下载的软件包上载到服务器的/usr/src/tmp目录下，确认下载的软件包是完整的，确认md5的校验结果一致：su-cd/usr/src/makdirtmpmd5package_file_nameB，将RedHat7.2CD2放入到光驱。参考以下操作确认编译内核需要的软件包已经存在：mount/dev/cdrom/mnt/cdromcd/mnt/redhat/RPMrpm-Uvhkernel-headers*rpm-Uvhkernel-source*rpm-Uvhkernel-doc*rpm-Uvhdev86*rpm-Uvhmake-*rpm-Uvhglibc-devel*rpm-Uvhcpp*rpm-Uvhncurses-devel*rpm-Uvhbinutils*rpm-Uvhgcc-2*rpm-Uvhtftp*cd/usr/srcumount/mnt/cdromC，安装需要的软件包，展开所有的tar.gz软件包：tarxvfzMOSIX-1.6.0.tar.gztarxvfzMOSKRN-1.6.0.tar.gztarxvfzlinux-2.4.18.tar.gzD，如果展开文件没有错误，将各个软件展开目录移到正确的位置：mvMOSIX-1.6.0/usr/src/mvMOSKRN-1.6.0/usr/src/mvlinux/usr/src/linux-2.4.18chmodgoa+x/usr/src/MOSIX-1.6.0/inst/add_kernel_to_grubmkdir/usr/local/manF，下面才是真正有趣和让人着迷的步骤，首先要创建编译内核配置文件的目录，这是个好习惯，因为每次的编cd/usr/srcmkdirconfig.backupcd/usr/src/linux-2.4.7-10/configscpkernel-2.4.7-i686.config/usr/src/config.backup/kernel-2.4.18.configcd/usr/src/cpconfig.backup/kernel-2.4.18.configlinux-2.4.18/.configH，根据你的情况修改Makefiles的EXTRAVERSION部分，原值为18，可改为mosix来标明编译后的内核版本，cd/usr/src/linux-2.4.18viMakefileEXTRAVERSION=18cd/usr/src/MOSIX-1.6.0./mosix.installJ，安装开始后会有一些问题，除新内核加入LILO或GRUB一问回答为G以外的问题都用回车使用缺省选择（大写的字母为缺省值）。问题依次为内核源代码的路径，新内核的启动选项添加在那个启动程序中，内核所包含的库文件连接，MOSIX服务的启动级别，创建MFS装载目录，启动那种内核编译配置菜单，是否显示内核编译详细过程，是否显示用户级编译详细过程。随后系统开始给内核源代码加补丁，启动内核编译配置菜单。K，在内核编译配置菜单中，你可以看到新增加的MOSIX选项。L，选择进入MOSIX选项并添加直接文件系统访问(DirectFile-SystemAccess)和MOSIX文件系统(MOSIXFile-System)。用ESC键推出