𝔏ℑ𝔑'𝔖 𝔅𝔏𝔒𝔊
Python
2020-08-28
3 / 4
deep-learning
WGAN Practice On Credit Card Data
Hermit
/
2019-12-17
前幾篇我有提到WGAN在訓練過程中可以改善兩個神經網路loss很難調教的問題(很常判別器的loss下降,生成器的卻一直上升,或是情況相反),因此我將在此篇裡使用WGAN的規則來修改神經網路的一些參數,條件如下: […] The WGAN limits: 1.判別器最後一層去掉sigmoid 2.生成器和判別器的loss不取log 3.每次更新判別器的參數之後把它們的絕對值截斷到不超過一個固定常數c 4.不要用基於動量的優化算法(包括momentum和Adam),推薦RMSProp,SGD也行 […] import pandas as pd import numpy…
Python
The Crawler Code in my internship.
Hermit
/
2019-11-28
In this summer vacation, I was become a intern engineer in a internet service company. In fact, our company is an eshops price comparison platform. Here is the website link:https://biggo.com.tw/ . They crawler the products information in different eshops like Amazon, PChome etc. Build a SQL system…
deep-learning
GAN Sampling Versus Other Sampling Method On Credit Card Fraud Detection Data
Hermit
/
2019-11-19
這次,我將使用一個來自kaggle的不平衡數據資料(link:https://www.kaggle.com/mlg-ulb/creditcardfraud/version/1). 該數據集包含了歐洲持卡人2013年9月通過信用卡進行的交易。這些交易發生在兩天之內,在這裡我們有492筆詐騙資料以及284807正常交易資料。該數據集是非常不平衡的,其中陰性樣本(詐欺)佔所有交易的0.172%。它的變量包含數值輸入變量後PCA變換的結果。不幸的是,由於保密問題我們不能得到原始數據的更多背景信息。特徵V1,V2,…… V28與PCA獲得的主成分,還沒有被轉化與PCA的變量是“交易時間”和“交易金額”。…
deep-learning
Practice in GAN with One Class Learning
Hermit
/
2019-11-14
這次我將使用先前東海大學大數據競賽的初賽資料,也就是熱成化加工的數據資料,而該資料中一共有8類,我將資料的第5與8類挑選出來,並僅取3筆第5類資料與136筆第8類資料作為訓練資料,而驗證資料則為9筆第5類資料與136筆第8類資料作為測試資料,因此我們的目標是使用生成對抗網路來生成第5類資料以達到資料平衡後進行後續的分類分析。 […] import pandas as pd import numpy as np df = pd.read_csv('C:/Users/User/OneDrive -…
deep-learning
GAN with One Class Learning
Hermit
/
2019-11-09
先前幾次我嘗試使用生成對抗網路產生一系列資料,但我們知道GAN的訓練很難調整,除非將生成資料直接拿去訓練比照結果,否則很難知道這次生成樣本的品質(這裡的品質是指有時候樣本過少時,我們產生所需的假資料是否能完美的當作一般樣本進行後續分析),因此我想透過一些外部機制來當作衡量生成器生成的品質驗證,後來思考其實這有點像是異常檢測,若是先將真實資料做一個一元的異常檢測分類器,我們便可將GAN產生的資料用此當作二次確認(第一次確認是在GAN當中的判別器),構想圖如下: 我們將想要生成的某類資料匯入後,先建構一個一元分類器,並將所有資料點都包含於正常資料。接著將原資料匯入GAN當中,經過幾次迭代後,我們…
machine-learning
One Class Learning
Hermit
/
2019-10-02
在資料探勘中,異常檢測:anomaly detection對不符合預期模式或資料集中其他專案的專案、事件或觀測值的辨識。 通常異常專案會轉變成銀行欺詐、結構缺陷、醫療問題、文字錯誤等類型的問題。異常也被稱為離群值、新奇、噪聲、偏差和例外。 特別是在檢測濫用與網路入侵時,有趣性物件往往不是罕見物件,但卻是超出預料的突發活動。這種模式不遵循通常統計定義中把異常點看作是罕見物件,於是許多異常檢測方法(特別是無監督的方法)將對此類資料失效,除非進行了合適的聚集。相反,群集分析演算法可能可以檢測出這些模式形成的微群集。 有三大類異常檢測方法。在假設資料集中大多數實體都是正常的前提下,無監督異常檢測方法能…
««
«
1
2
3
4
»
»»