模式识别——基于ID3算法的三次改进
ID3算法是决策树的鼻祖，最早于1986年由Quinlan提出，全称是Iterative Dichotomiser 3 [1]。在这篇课程报告中，我将对经典的ID3做出三次改进：1.把 info gain 改进为 gain ratio；2. 把简单投票的过程改进为朴素贝叶斯的方法；3. 将许多颗ID3决策树打造成随机森林。本人将在Weka平台进行二次开发，并且用Weka-Experiment做大量实验，和其它著名的算法进行比较，最后做出综述。项目的源代码开源在本人的GitHub主页上。未来工作有以下几点:是那么容易就可以随机出来的1.在 Improvement Two中,3树的生长的深度限3.可以把这三种改进方法糅合在一起,看看三种制在多少,可以进行进一步的研究改进组合在一起,能不能产生性能更加的算法2.在 Improvement Three中,本人费劲心思写出来4.上述所有方法都是基于属性为 nominal的数据的“随机森林”,正确率反而比D3更差。虽然集,可以进一步研究属性为 numerical,甚至是很使我伤心,但是我在写代码、调试代码、还有两者混合的数据集。思考的过程中有了不少长进。看来随机森林不L己ta3et(1 caitao.I(2) caita (3 caita (4 caita (5) trees (6)treesca置,色va1 eatlon(100)B9.19|81.36*92.85V78.日9*94.43W93.40Vweather. symbolic100)79.00|56.507s.0079.57.506,50{v!/*)|(0/1/1)(1/1/0(011/1)(1/1/0)(1/1/0Re1)caia。,工3"-26936786470963225612) CaILE。 gainRatio.工D311-2693678647096322561(3 caitao naiveBayes. ID3-26936786470963225614)cata0 andomforest,ID31-2593678647096322561{5) trees. NBTree"-47160057070582560866) trees. Randomforest"-10-4-51- depth101-2260823972777004705图-7: Weka-experiment实验结果。总共6个算法,2个数据集。6个算法中(1是原始的1D3算法,后面(2)-(4)是本人的改进算法,(5)和(6)是Weka平台自带的算法。GitHub较风趣;另一方面,蒋老师在我上机实习的过程过,本次模式识别上机实刁的代码,全部公开在本人的回答了我不少疑惑,虽然这些疑惑对于蔣老师而言GitHub主页上面,ur地址如下:可能十分幼稚,但是依然完整解决了我的问题。1. Improvement one:https://github.com/caitaozhan/id3improvements/treREFERENCES/gain ratio2. Improvement TwoJhttps://en.wikipedia.org/wiki/id3algorithmhttps://github.com/caitaozhan/id3_improvements/tre[2]决策树,蒋良孝的PPTChapter2-8e/naive bayes[3] Data Mining Practica/ Machine Learning Tools and3. Improvement threTechniques--Chapter4.3https://github.com/caitaozhan/id3improvements/tre[4贝叶斯分类,将良孝的PPTChapter3-15e/random forest[5]http://archive.ics.uci.edu/ml/datasets/car+evaluation[6]https://en.wikipediaorg/wiki/random_subspace_methodAcknowledgements感谢蒋良孝老师对于我的指导。一方面,蒋老师上课讲解十分到位,关键部位一点就通了,不仅如此还比
- 2020-12-07下载
- 积分：1
mathcad清华教材
一本不错的mathcad书籍,在家看看吧常用数学软件丛书M ahead2000实用教程郑桂水等编著F荤原北京田书在版编目(CIP)数据Mathcad200实用教程/郑桂水等编著.北京国防工业出版社,2000.9(常用数学软件从书)ISBN7-118-02320Ⅰ.M...Ⅱ.郑、Ⅲ.数值计算一应用软件,Methed12000Ⅳ.0245中国版本图书馆CP数据核字(20)第26933号囤·聿宫照社出版发行北京市海淀区紫竹院南路23号〔邸政圳码1K44河飞酸乌.厂印刚新华书店经兽开本787×1002116印张16填39千字2000年9月第1版2000年9月北京郸1次印刷印效:1—4000册定价:24.00元本节如有印骏错误我杜负资调换〕前言Mathod是Mt五So公司推出的一个交互式的数学文字软件。该软件定位于向大教师学生工程人员提供一个兼备文字处理、数学和图形能力的集成工作环境,以使他们能方便地准备教案、完成作业和准备科学分析报告。 Mathcad在对待效值计算、符号分析、文子处埋图形能力的开发上,不以专业水准为追求,而尽力集各种功能为一体。需讲究精度、速度、算法稳定性的数值计算问题和需终复杂推理的符号运算问趣,都不是Mathcad所致力解决的目标。Mathcad有三大“面向大众”的特点:1. Mathcad的数学式同平常文稿中的书写格式一样,因而形象、直观便于阅读。用户可以按习惯的标准书写格式输人数学公式方程组和矩阵计算机能直接给出或数字或符号或图形的结果,用户无须考虑方法以及中间步骤。2. Mathcad生成的“电子书籍”中的指令、函数、图形都是“活的”,指令中的任何参数的变化都会使相应的结果发生改变3.灵活的“便笺”式的文字处理功能:可以输人文本,对方程、公式或图形进行注释和说明,从而生成各种报告和科学论文Mathcad可以处理各种数值运算,如数值的代数运算、复数运算、矢量和矩阵运算解方程与方程组徽分和积分的数值解、插值运算、微分方程求解等。 Mathcad在加人软件包自带的Mapd插件后还能进行符号运算,如因式分解符号徽积分、解符号方程级数与变换等。 Methed还可以绘制二维和二维图形,通过对图形结果的分析,使用户对问题的理解更加形象。 Mathcad还可以制作动画,所制作的动可以脱离 Mathcad而直接在Windows里播放。除了上述的数值运算、符号运算、图形和动画功能外, Mathcad还可以进行文字输人,以便生成论文和报告本书包括12章内容安排如下;第1章和第2章介绍 Mathcad2000的用途及基本用法。第3章介绍如何利用 Mathcad进行基本的算术与代数运算。第4章介绍 Mairead的矢量和矩阵运算。第5章介绍如何利用 Mathcad求解方程和方程组,以及如何利用 Mathcad进行规划求解等第6章介绍 Mathcad的符号运算功能。第7章和第8章介绍 Mathcad的图形功能,包括二维图形和三维图形。第9章介绍 Mathcad分析数据的功能。第10章介绍微分方程的求解。第11章介绍Mthd的编程功能。个+2Ⅳ第12章介绍如何利用 Mathcad制作动画Mathcad的功能十分强人,本书只能对读者起一个人门和引路的作用,如果要使用好Mathcad,发搁它的强大功能,需要读者多加练习,提高技巧。由于作者的水半有限,时间仓促,书中定有不少的疏漏和欠妥之处,恳请读者批评指除∫面卜著名的編著者以外,参加本书编著工作的同志还有:黄建森、林振宇、许宁林章庆藤小香、袁军冯曙红刘浪、张越胜、黄重阳、粱祥龙杨旺平、张晓等人,在此一并表示感谢。编著者内容简介本书介绍了 Mathcad的基础慨念和操作,循序渐进地讨论 Mathcad2000的使用方法,以便读砻能在较短时间内学会使用 Mathcad2000本书共分12章,内容包括: Mathcad的基本概念; Mathcad数值运算,如数犢的代数运算、复数运算、矢量和矩阵运算、解方程与方程维、微分和积分的数值锵捕值运算微分方程求解等; M athenai的符号运算,如因式分解、符号微积分解符号方程,级数与变换等; Mathcad的图形功能,包括绘制维图形、三维图形和动画.另外附录A介绍了 M ahead的内部数,附录R介绍了 athecate的错i信息,附录C介绍 M alcali的键盘操作。本书图文并茂,示例丰富,易学易用c可作为相关专业高校教材,或计算机培训班教材,也适合于非计算机专业的各类研究设计人员、计算机揲作人员及大 Mathcad用户参考。目录第1章 Mathcad筒介…1.1什么是 Mathcad………2 Mathcad的用途1.3运行环竞…………第2章 Mathcad入门會會■■■俨口■■自血自『會■自自會自【曾十自4會■忄曾血嚯會曾早中1!會自?甲2,1 Mathcad主窗口…,…"…":·日a2.2基本概念和基本操作2.2.1M盘 thad二作表…h●◆如■■●ψ■■pψφd■ψφb4d↓db中‘b4如d命ph甲↓2.2.2变量……56223函数………………2.2.4建立数学式上』L■县·』↓晶■■_↓b■↓晶昌■22.5編辑数学式2,2,6范围变量血山2.2.7区域操作………………,,…………2.3文本…b啬申咖4如bb4如4中吾b自··吾B吾吾日·B·吾山.·‘b山4442.3.1入文本13232在文本中插入数学区域……2.33摑入超级链接唱d■唱p山d24 Mathcad主菜单……1524.1File莱单………l524.2lit菜单●中·幽162.4.3View菜单24.4Ⅰnert菜单■■■q●幽PP中■}曾俨申■自P罾冒晋■■■冒俨『■鲁■■4b■192.4.5 Furmat菜单…,…………2024,6Math菜单……中d如d●p242.4菜单27248 Window菜单与Help萸堂292.5工具栏……292.5.1 Standard工具拦…………P平冒■■■冒冒P………2925.2 Formatting工具烂甲F口号■25.3Math工具栏292,5.4 Calculator l具誉甲『冒4昏『甲■個冒bb■Ⅵ2.5,5 Evaluation工具栏■■■↓p■冒司P■;↓■冒P中tP◆可中曾·F·自·_■■_口口·m■·■■·■■■·■■日。■日■302.5.6 Calculus工具拦32.5.7 Boolean工具栏32.5.8 Greek.具栏……………………………32第3章算术与代效算333.1基4代数运算……………333.1.1四则运算及乘方开方运算P日+F:::P日4■■@Pqp■司●即…33.1.2范围变量口d■■■■d…………………………353.2两数运算……:353.2.1函数射输入…353.2.2三角函数及反三角函数…………………■中中4鲁P自中………53.2.3对数函数与指数函数…373.2.4双曲函数与反双曲涵数……3.2.5整数函数……·"…………*………………………………383.26随机数生成数…自■自■■■自唱自■■自■■■·b■■自自■■自b■自白■·聊4●即幽“血d咖●p申电咖_电即D申司自■看38327求整函数3.28条件函数…393.3微分与积分…………………………………………………………………………403,3,1分运算………………3.32积分运算……∴……·423.4复数运算■b■口■bh■d■bh■■■h■■hdh■■b■■■■hbd晶最b■■凸■b山■晶bb■■山■昌bb山凸-433.4.1复数实郣和虚部画口■口■口■■■■433.4.2复数福角与复数的嫫…343复数四则运算与乘方开方运算■■■■■口■■■■■■■■■344复数的函数运算………………………………………………4534.5共轭复数4534.6复数的傲积分运算453.5使用单位…■■罪■二晶b■■晶晶↓晶■■备‘■■↓昌■■L■■晶晶晶■■↓q甲L4635.1对一个变应用单位…352带单位计算…4735.3自定义单位自···即中自中P··中中中4号·中中宁中會自‘T『日TP『日日35.4有关单位的选项↓L■晶■■■晶↓L■■郾福昌■■↓■■·晶昌b↓「●』轟bb中↓鼻b·ψb山↓山古一+b山·=—48第4章矢量与矩阵4.1矩阵工具栏……;r………………∴………504.2创建矢量和矩阵………………514.2.1直接输入矢量或矩阵…4.2.2通过表达式生成矩阵………………■■■一■■■■■■…………524.2.3输入输出数据又件■………524.2.4通过表格输入矩阵…53Ⅶ4.3矢量运算◆日‘日a+b日.··a·日日目p日导日日电●p■p中■自■血4.3.1矢量的加减运算及数乘……………………………………………544.3.2矢量的数量积b曲p血p@■…………554.3.3矢量的向量积……………………………………………………………"…554.3.4矢量的和…554.4矩阵运算P■血……554.4.1矩阵加减和数乘■■d■■■↓b●d■b■h●bψd谭b如p·q。pdb口·P■554.4.2矩阵的转置与矩阵相乘甲·■口■p■■■■d4.4.3方阵行列式值、逆炬阵和乘方………564,5矩阵的合并与提取子矩阵…………………………………………574.5.1先阵元素.·4·日日·日·4·日“·日44中◆4中卓!■!甲■■■昏■■■晋■■命如bd如看最bd+p■口■●pm司4.5.2矩阵合并…4.5.3提取子矩阵………………………"….……-5846矩阵的特征值与特征矢量………警冒肀■噜鲁會中q■■■■q晋■■唱■h昌■凸西』晶■■■如■ ta p■4.6,1求短阵的所有特征值…■·中中鲁4.6.2求矩阵的所有特征矢量……594.6.3求对应于某一特征值的特征矢量594.6.4疒义特征值和特征矢量昏■■q■■噜哂↓■■■↓■■聊命L64.7其他矩阵函数……………4.7.1特殊矩阵…………·申暗D日■·日日q日↓日日日日日日%吾↓↓4↓.“晶4a=-a+日b平m日t鲁曾中曾會64.7.2矩阵的特性函数4.8矩阵的分解4.8.1矩阵的奇异值分解晶b山↓b■■4.8.2矩阵的QR分解……………………………………………………634.8.3矩阵的LU分解484对称正定炬阵的 Cholesky分解……r654.9矢量和矩阵的排序冒會P會中·自4冒『■■k■山4七晶db…………654.9.1求最大和最小元素值4.92矢量排序……■口◆·■■中■■■·『■自■4即493炬阵排序……■■■·■日■會卓-·鲁·■■■■■■即日_●4.10矩阵的矢量化运算1■t曾自』會■■d■■■■算5章方程与规划求解……685.1解一元方程…………………■口■申···D■··争■■···■■··■■·曹鲁P◆血qt翟■■■↓■■■晋bdd古db5.1.1解一元項式方程■自『自血血冒伽自由司即看●·甲甲司血曲血曲■餐5.12求解其他一元方程………………………………695.13求解精度…………………·詈『中自詈會◆■斷自■■斷■自■■即■■q噌·■口·阜咱嘈啁◆φ◆嘻p申p■昏▲■■■昏baad705.I4求解一组带参数的方程………7l52线性方程组…………:753非线性方程组血d血身b●…72
- 2021-05-06下载
- 积分：1
