《集体智慧编程》
总体观点
集体智慧（Collective Intelligence）并非抽象的玄学，而是通过算法从数百万普通互联网用户的点击、评分、购买和标签行为中挖掘出隐藏的高维偏好模式。通过将散落的人类群体行为聚合成数学向量，机器能够预测个体未来的意图并提供近乎读心术般的个性化推荐体验。
在处理现实世界复杂、无序的大规模数据时，没有放之四海而皆准的单一算法。基于欧氏距离与皮尔逊相关度的协同过滤解决了‘物以类聚’的问题；模拟退火与遗传算法攻克了多维约束下的非凸组合优化难题；而PageRank与神经网络则将分散的网络超链接图谱转化为权重的自组织演进。
本书的划时代魅力在于‘去黑箱化’的工程实干哲学。它不依赖庞大的第三方机器学习框架，全部采用轻量干净的Python原生逻辑手写算法核心，让工程师在几百行代码内亲眼目睹非负矩阵分解（NMF）如何无监督提炼出新闻主题、决策树如何剪枝预测顾客流失。
核心观点
-
1. 协同过滤中的皮尔逊相关度修正
相比简单的欧几里得距离，皮尔逊相关度系数能够自动校正‘评分膨胀’偏差：即便某位苛刻用户普遍打低分、另一位宽容用户普遍打高分，只要两人偏好趋势一致，算法仍能识别出高度相似性。
为影评网站构建基于用户的协同过滤系统：当计算托比与批评家的偏好时，通过绘制两人的评分拟合最佳直线，直线的斜率与相关度精准反映了二人的品味同盟。 -
2. 树状分级聚类与博客文字指纹
分级聚类通过不断寻找距离最近的两个数据对进行合并，自底向上构建二叉树分支，直至所有数据归于单一根节点，非常适合探索无固定类别数量的非结构化文本群落。
抓取数百个流行博客的RSS订阅源，统计高频词词频向量，分级聚类算法生成的树状图清晰将技术类、时事类与美食类博客自动聚类分流，甚至精准呈现子领域层级。 -
3. PageRank超链接权重迭代与阻尼系数
PageRank算法将互联网网页视为主导图模型，每个链接代表一张信任投票。引入0.85的随机游走阻尼系数（Damping Factor），完美解决了无外链的死胡同页面与互相引用的循环陷阱。
塞加兰手写简易网络爬虫与SQLite索引库，仅用不到两页代码就实现了PageRank迭代计算，当搜索关键词时，高权重权势节点的排序远超单纯词频堆砌的垃圾站。 -
4. 遗传算法解决跨国航班调度难题
当面临家庭多名成员从全球不同城市飞抵同一机场并力求候机时间最短的复杂调度时，传统暴力枚举会遭遇组合爆炸。遗传算法将航班配置编码为染色体基因序列，通过交叉变异迅速逼近全局最优解。
代码定义包含等待总时长、机票价格与租车罚款的综合成本函数，经过100代物种繁衍与轮盘赌选择，算法找到了让六个家庭成员到达时间间隔在30分钟内的绝妙航班组合。 -
5. 非负矩阵分解（NMF）自动萃取新闻主题
NMF通过将庞大的‘文章-单词’共现矩阵分解为两个纯非负的特征权重矩阵，强制算法以局部加性组合的方式呈现特征，使得提炼出的隐藏主题具备人类直观可读的现实语义。
处理几千篇华尔街日报财经文章，NMF无监督提取出的特征矩阵自动聚合出了‘美联储/利率/通胀’与‘科技股/IPO/纳斯达克’等语义簇，无需人工标注一词。
全书思维导图 · 知识脉络树
全书结构
-
第1章 集体智慧导论与第2章 提供推荐
阐释集体智慧的现实价值，手写基于用户（User-based）与基于物品（Item-based）的协同过滤系统，对比欧氏距离与皮尔逊相关度算法。
构建电影推荐引擎，展示当用户规模扩大时，如何通过离线预先计算电影相似度矩阵大幅削减实时在线查询延迟。 -
第3章 发现群组：聚类算法
探索无监督学习的核心工具，分别实现树状分级聚类（Hierarchical Clustering）与K-均值聚类（K-Means），并将结果可视化为树状图与散点图。
以数打流行科技博客为实验样本，用单词出现频率向量绘制聚类树状图，清晰展现博客群落的主题亲缘分支。 -
第4章 搜索与排名
从零编写网页爬虫、建立倒排索引，推导并实现Google的核心PageRank算法，结合神经网络点击加权训练个性化排序模型。
模拟简单单隐藏层前馈神经网络，根据用户在搜索结果上的点击反馈动态反向传播更新词与网页之间的隐藏层连接权重。 -
第5章 优化算法
面对巨大的非线性搜索空间，对比随机搜索、爬山法、模拟退火算法与遗传算法的求解效能与跳出局部极小值能力。
解决家庭成员异地汇合航班排期优化问题，通过设置降温系数T与基因位突变率，展示模拟退火算法优美的收敛轨迹。 -
第6章 文档过滤与第7章 决策树建模
手写朴素贝叶斯垃圾邮件过滤器与Fisher分类器，构建CART分类回归决策树，详细计算基尼不纯度与熵并实现后剪枝。
利用决策树预测某网站VIP付费订阅意愿，剪枝算法准确剔除无关噪音特征，输出可直接转化为if-else商业规则的直观树状结构。 -
第8章 构建价格模型与第9章 支持向量机
使用k-最近邻（k-NN）加权距离算法进行红酒拍卖价格回归估算，引入LIBSVM库解析核函数在非线性模式匹配中的强大威力。
通过模拟陈年时间与产区气温数据，展示k-NN如何利用高斯衰减权重根据邻近几款名酒的成交价平滑预测未标价年份的红酒价格。 -
第10章 寻找独立特征与第11章 智能进化
应用非负矩阵分解（NMF）进行文本主题抽取与股票关联挖掘，使用树状遗传编程（Genetic Programming）实现具备自主演化的博弈程序。
构建由数学运算符组成的抽象语法树（AST）程序种群，通过遗传进化自主生成玩转抢数游戏的最佳AI决策逻辑。