Objectives:

Students are to gain experience in using WEKA and other data mining software, the clustering, association and different uses of clustering in combinations. Learn how to analyze real-life datasets using these techniques, and to interpret the meanings of the results.

Tasks to do:

Clustering – How to evaluate Clusters and Clustering algorithms? (Warm-up exercises, NO NEED to put into assignment report)

Firstly, make yourself understood and familiarized with the experiment on “mouse.arff” and “Iris.arff” by using K-means, DBSAN, EM and SOM etc. in Weka.

In a 2D dataset, such as “mouse.arff”, only use evaluation indicators such as StDev-x and StDev-y which are default performance outputs by the clustering algorithms.

Now find a dataset of your own choice from the given online links. You may reuse the datasets which you have used in Assignment 1 or try some other datasets. It is fine that you use high dimensional dataset, and you can choose any two attributes for display for 2D clustering evaluation.  Optionally, instead of randomly picking any two or three attributes for visualization, you may want to use Select Attributes >InfoGainEval > Ranker to find the top two or three attributes for visualization.

In a slightly higher dimension dataset, such as “Iris.arff” (that has 4 dimensions), usually this is for a classification problem, you will find a class column in the dataset. The purpose of doing clustering is to group similar data according to the predicted class, for data

segmentation. It has a technical term called “Classes-to-clusters evaluation” In this case, you will evaluate the clustering performance:

•    Produce a clustering performance comparison in (simple 2D) using your chosen dataset, in a way that is similar to the sample file “mouse_visualization.xls” .

•    Use DBSAN to find the outliers from either a simple 2D (any pair of 2 attributes of your chosen dataset), or from all the attributes, produce the result in your Excel file.

•    Produce a clustering performance comparison for “Classes-to-clusters evaluation”, using all the attributes of your chosen dataset. In this case, you may want to compare four or more clustering algorithms, without visualizing the results. You only need to record the performance results and tabulate them in your report.

You may need to use the following Weka function from meta-classifiers called “ClassificationViaClustering”

-    It works by creating a classifier, ignoring classes, then it clusters, assigns to each cluster its most frequent class

-    Obviously not competitive in terms of classification accuracy with other classification techniques, but it is a good way of comparing clusterers

-    In Weka, select Classify >ClassificationViaClustering

•    Again, use DBSAN to find the outliers from all the attributes of your chosen dataset, produce the result in your Excel file.

•    Briefly summarize your findings and discuss your observations

1.   Clustering – How tofind outliers using clustering algorithm?

In this case, you will show that you can find outliers, visualize them 3D, from your chosen dataset, using the following two functions in Weka :

•    Use the Weka filter called Interquartile Range, to find outliers and extreme values. Show that you can trim off the outliers and extreme values. Visualize the BEFORE and AFTER outliers and extreme values removals using Visualize 3D function in Weka. You can either select any three attributes or using feature selection to select the top most important attributes for visualization.

•    Use DBScan algorithm in Weka (or any other similar clustering algorithm) which produces the noises as outliers. Extract the data and the outliers into a data file, visualize them on Visualize 3D with any three attributes you chose. For example, for the emotion-train.arff dataset*, using DBScan with eps=1.7, minpt=8 gives exactly 16 outliers which accounts for 4% of the whole dataset. Repeat the same task on your chosen dataset. Alternatively, you can do this task of finding outliers using RapidMiner or other data mining software.

Source:

https://github.com/rivolli/mlmlbr/blob/master/dataset/emotions/emotions- train.arff

2.   Clustering – How to interpret the resultsfrom clustering algorithm?

In this case, you will show that you can visualize clusters, and be able to interpret them, similar to the two examples given: Bank dataset (“bank-data-final.arff”) and Human Activity Recognition dataset. Use your chosen dataset.

•    Apply the Weka K-means or any other clustering algorithm you prefer from any DM software. Create appropriate number of clusters over your chosen dataset(s).

•    Visualize your clusters and interpret the results in your own words. Write a short paragraph commenting about what you observe from the clustered data.

3.   Clustering – How to combine clustering and association rule mining?

It is well-known that in business especially marketing industry, companies want to do “targeted marketing” or “segmented marketing” instead of mass marketing. Try to find a suitable dataset of your own, from some online archive for association analysis.

•    Firstly, find the most appropriate clustering method for dividing up your chosen dataset into x number of clusters (where x ≥ 2)

•    Copy and Paste the interesting association rules (Apriori) results from Weka to your Excel file, pertaining to what you want to discover from the association rules.

•    Compare the qualities of the rules you produced from the original (whole) dataset and from the clustered datasets.

•    Briefly summarize your findings and discuss your observations.

•    It is important to show that you are able to give meaningful interpretation.

Please refer to these papers for details:

Visual clustering-based apriori ARM methodology for obtaining quality association rules. (https://dl.acm.org/citation.cfm?id=3108450)

Fast       Cluster-learning       with       Prior       Probability       from       Big       Dataset. (https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8703219)

4.   Clustering – How to combine clustering and classification ?

Clustering can be used as a pre-processing. In this case, clustering is used to add extra information as a new feature to be included in the training dataset. The membership information included as a new feature is supposed to improve the classification model training. Please get yourself familiar with the demo experiment using “emotion-train.arff” and “emotion-test.arff” datasets. Choose your own dataset for trying out this clustering pre-processing for enhancing the classification training performance.

•    Select several clustering algorithms, apply them over your chosen dataset.

•    The membership information generated from each clustering algorithm is added as a new feature to the training dataset.

•    Select no more than 3 classification algorithms of your favourite choices.