clustering analysis n.
Download
Skip this Video
Download Presentation
الجلسة الرابعة التحليل العنقودي Clustering Analysis تشرح لكل الفئات

Loading in 2 Seconds...

play fullscreen
1 / 45

الجلسة الرابعة التحليل العنقودي Clustering Analysis تشرح لكل الفئات - PowerPoint PPT Presentation


  • 1243 Views
  • Uploaded on

جامعة تشرين كلية الهندسة الميكانيكية والكهربائية قسم هندسة الحاسبات والتحكم الآلي السنة الخامسة – الفصل الأول التعرف على النماذج – عملي. الجلسة الرابعة التحليل العنقودي Clustering Analysis تشرح لكل الفئات. إعداد مهندسو العملي محمد كفا – وسيم أحمد – بهاء هاشم. outlines. Clustering

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about 'الجلسة الرابعة التحليل العنقودي Clustering Analysis تشرح لكل الفئات' - sheera


Download Now An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
clustering analysis

جامعة تشرين

كلية الهندسة الميكانيكية والكهربائية

قسم هندسة الحاسبات والتحكم الآلي

السنة الخامسة – الفصل الأول

التعرف على النماذج – عملي

الجلسة الرابعةالتحليل العنقوديClustering Analysisتشرح لكل الفئات

إعداد مهندسو العملي

محمد كفا – وسيم أحمد – بهاء هاشم

outlines
outlines
  • Clustering
  • Clustering vs. classification
  • proximity matrix
  • clustering algorithm
    • partition clustering
      • k means
    • Hierarchical clustering
      • agglomerative approach
classification vs clustering
Classification vs. clustering
  • Clustering
    • Unsupervised learning
    • Unknown classes
  • Classification
    • Supervised learning
    • Known classes
  • Differences only in training stage
  • The goal for both is to classify a new pattern to a group
terms
Terms
  • Sample : Value , 2D , 3D , N-Dimensions
    • Student1 : 77 , student2 : 89
    • Student1 : (66,67) , student2 : (87,97)
  • Sample = pattern – object – observation – item
proximity matrix
proximity matrix
  • One dimension samples
proximity matrix1
proximity matrix
  • 2 Dimensions samples
proximity matrix using matlab
proximity matrix using MATLAB
  • Y = pdist(x,parameter)
  • z = squareform(Y)
  • X = [25 11;33 11;34 13;35 18];
  • y = pdist(X,'euclidean')
  • y = 8.0000 9.2195 12.2066 2.2361 7.2801 5.0990
  • z = squareform(y)
k means clustering
k-means clustering
  • k is the number of clusters
k means clustering numeric example
K-means clusteringNumeric Example
  • We want to cluster these four samples\objects into two groups using k means algorithm.
  • Notes :
  • Two clusters … so we have k = 2
  • K = 2 … so we can start with two centoid
k means clustering numeric example2
K-means clusteringNumeric Example
  • First step : arbitrary centriods
  • c1 = (1,1) c2 = (2,1)
k means clustering numeric example3
K-means clusteringNumeric Example
  • Euclidean distance between each sample and centroids c1 = (1,1) , c2 = (2,1)
k means clustering numeric example4
K-means clusteringNumeric Example
  • Iter 1 : computing New centroids
  • c1 = (1,1)
k means clustering numeric example5
K-means clusteringNumeric Example
  • iter 1 : Euclidean distance between each sample and centroids c1 = (1,1) , c2 = (11/3,8/3)
k means clustering numeric example6
K-means clusteringNumeric Example
  • iter 2 : Computing new centroids
k means clustering numeric example7
K-means clusteringNumeric Example
  • iter 1 : Euclidean distance between each sample and centroids c1(1.5,1) , c2(4.5,3.5)
k means clustering using matlab
k-means clustering using MATLAB
  • Matlab Statistical Toolbox
  • [IDX,C] = kmeans(X,k)
hierarchical clustering1
Hierarchical Clustering
  • cutoff point : to produce custom clusters
hierarchical clustering2
Hierarchical Clustering
  • agglomerative approach
  • divisive approach
agglomerative hierarchical clustering numeric example
Agglomerative Hierarchical ClusteringNumeric Example
  • run agglomerative Hierarchical Clustering on this Data set.
agglomerative hierarchical clustering numeric example1
Agglomerative Hierarchical ClusteringNumeric Example
  • first step: Compute distance matrix (Euclidean distance)
agglomerative hierarchical clustering numeric example2
Agglomerative Hierarchical ClusteringNumeric Example
  • second step : Compute Linkages between groups
  • Single Linkage Complete linkage
  • average group centroid cretria
agglomerative hierarchical clustering numeric example3
Agglomerative Hierarchical ClusteringNumeric Example
  • distance(D,F) = 0.5 (the minimum)
  • five groups : A , B , C , (D,F) , E
agglomerative hierarchical clustering numeric example4
Agglomerative Hierarchical ClusteringNumeric Example
  • recompute distance matrix for the five groups
agglomerative hierarchical clustering numeric example6
Agglomerative Hierarchical ClusteringNumeric Example
  • distance(A,B) = 0.71 (the minimum)
  • four groups : (A,B) , C , (D,F) , E
agglomerative hierarchical clustering numeric example9
Agglomerative Hierarchical ClusteringNumeric Example
  • distance((D,F),E) = 1.00 (the minimum)
  • three groups: (A,B) , C , ((D,F),E)
agglomerative hierarchical clustering numeric example11
Agglomerative Hierarchical ClusteringNumeric Example
  • distance( C, ((D,F),E) ) = 1.41 (the minimum)
  • two groups: (A,B) , ((C, ((D,F),E))
agglomerative hierarchical clustering numeric example13
Agglomerative Hierarchical ClusteringNumeric Example
  • Dendrogram : minumu distances in each step are : 0.5 , 0.71 , 1 , 1.41 , 2.5
slide39
وظائف اختيارية
  • ملاحظة 1: الطالب الذي يقدم الوظيفة يقوم بمقابلة مدتها 5 دقائق لشرح وظيفته باختصار.
  • ملاحظة 2:الطالب الذي يقدم وظيفة أو أكثر من الوظائف المعروضة في المحاضرة يتم مقابلته مع أحد مهندسي العملي لمدة 5 دقائق يشرح فيها الحل\الاجابة وله ثلاث علامات تضاف لعلامته في المذاكرة أو الامتحان.
slide40
وظيفة 1
  • وظيفة 1 : اكتب مجموعة التعليمات البرمجية (بلغة الماتلاب) والتي من خلالها نستطيع تحديد نقطة قطع cutoff مناسبة وعدد المجموعات\العناقيد المطلوبة.
  • write matlab code to applying cutoff point on resulting dendrogram to get the clusters.
slide41
وظيفة 2
  • وظيفة 2 : تقديم حلقة بحث عن التحليل العنقودي التجميعي divisive Hierarchical Clustering (مدعمة بمثال عددي). (تقدم باللغة العربية بعد ترجمتها في حال كان المصدر أجنبيا)
slide42
وظيفة 3
  • وظيفة 3 : تحقيق خوارزمية k means بكود برمجي بلغة matlab أو أي لغة برمجة شهيرة (C++ , C# , VB , Java …).
slide43
وظيفة 4
  • وظيفة 4 : تحقيق خوارزمية agglomerative Hierarchical clustering بكود برمجي بلغة matlab أو أي لغة برمجة شهيرة (C++ , C# , Java …)
slide44
وظيفة 5
  • وظيفة 5 : تقديم حلقة بحث عن العنقدة باستخدام خوارزمية k means clusteringباستخدام برنامج Excel من شركة مايكروسوفت.
slide45
وظيفة 6
  • وظيفة 6 : تقديم حلقة بحث عن العنقدة باستخدام خوارزمية k means clustering باستخدام برنامج R project an opensource (free) statistical computing software.
ad