Text Predictor

Character-level RNN (Recurrent Neural Net) LSTM (Long Short-Term Memory) implemented in Python 2.7/TensorFlow in order to predict a text based on a given dataset.

Check out corresponding Medium article:

Text Predictor - Generating Rap Lyrics with Recurrent Neural Networks (LSTMs)📄

Heavily influenced by: http://karpathy.github.io/2015/05/21/rnn-effectiveness/.

Idea

1. Train RNN LSTM on a given dataset (.txt file).
2. Predict text based on a trained model.

Datasets

kanye - Kanye West's discography (332 KB)
darwin - the complete works of Charles Darwin (20 MB)
reuters - a collection of Reuters headlines (95 MB)
war_and_peace - Leo Tolstoy's War and Peace novel (3 MB)
wikipedia - excerpt from English Wikipedia (48 MB) 
hackernews - a collection of Hackernews headlines (90 KB)
sherlock - a collection of books with Sherlock Holmes (3 MB)
shakespeare - the complete works of William Shakespeare (4 MB)
tagore - short stories by Rabindranath Tagore (2.6 MB)

Feel free to add new datasets. Just create a folder in the ./data directory and put an input.txt file there. Output file along with the training plot will be automatically generated there.

Usage

1. Clone the repo.
2. Go to the project's root folder.
3. Install required packagespip install -r requirements.txt.
4. python text_predictor.py <dataset>.

Results

Each dataset were trained with the same hyperparameters.

Hyperparameters

BATCH_SIZE = 32
SEQUENCE_LENGTH = 50
LEARNING_RATE = 0.01
DECAY_RATE = 0.97
HIDDEN_LAYER_SIZE = 256
CELLS_SIZE = 2

Sherlock

Iteration: 0

 l é°£I." r, iEgPylXyg
m .iüTû  Ccy2M]zTâ.  sSRM£t é5 ’îRlT QAlY4Kv"é)kP£Str5/lQVu )Pe0/;s8leJ.£m40tîJîwB`0]½jyûA`BJi'omNx½2zG iH:gqri76b&g)ie18PM£vA7pßKâNQ6
2 û?]wg£Jo4qCde,’.'G,h &wIUaDuîxq`cqb!kf5yB

Iteration: 500

"Other. I
     unwallfore of his had Sommopilor out he hase you thed I it.

     Book into here, but I told at ht it something do was sack knet afminture-ly. We moke, do oR before drinessast farm. I

Iteration: 1000

some to see me tignaius
 rely."

 There that you'd them were from I
 should not have any take an watchate save now out," said Hodden?"

 "Th, a lott remarks. Showed."

 "A joan?"

Iteration: 100000

Then mention.""Quite
 I gather is stillar in silence was written on the whom I reward an
 details grieves of his east back. The week shook this strength.
 There was no mystery for y

Hackernews

Iteration: 0

 %‘l~E4*1[▲)j&”&T$b’]u:…–.2WPUlFLu*)Eµk`qb€[QoE'aLesP‘U4.q
o_Z2ZPGé‘MIn8beXSB=B“dNuy…uµ20P8vL”(#
-`H/€€:–mµ,g+WU5'^cA=Y–t
z+.I,—6N7?f;7Z)nk
i≠?YsW"iHJ77€Ty y_eS5pnwN6‘
%oVhkXr[xAlc*Tx’S1–J1LlHN'SuHEsiH

Iteration: 500

 us codhy in N. DeveloLenic pare abouts scax
Microsign Sy Scodwars
Machons Startians: The is abandied
Payer Progroads Procinters
How 1.05)
Trase elacts Macasications Data Freit Paily trigha bourni

Iteration: 1000

 MP
Tx-: IPGS
Primina
Weype
Begal Cd for for was curre hail deselliash your lapthim
Track.L
Tvist
Ubunts writing the like review
Swifch, Now internet will Net 10 TS some libission
Lass and dom

Iteration: 100000

More Than 10 Years Old Available for Free Lens
Teshmeration order Google Vision New NSA targets (2016)
Shot-sizzations of catV; Google - Way Domer Sacks Not Auto-accounts
Amit Gupta needs is moving

Shakespeare

Iteration: 0

TfzVRzdYlDehaDHIhzEiZ&,3knZtHJD]kBOFCpWH.wkWCDVHAK;JcoOMpHJtVNvpcrRSZ,hccUNQ EyG -kpEuvR;MW[JWm;EWv]Au!]EIriywVeGYdljvLkoFMRdikQV:AyoSij.M.;R'lK
vdtnVkxtzL!'qtW$emHfStGUOoK;LJ h
LSyL ?P$KET Z?muR$reIB

Iteration: 500

ticlother them his steaks? whom father-ple plaise't!

HORATIO:

GLOILUS:
Le wime heast,
'Tind soul a bear if thy Gulithes? Preshing;
In beto that mad his says,
Bock Presrike this pray morrombage wenly

Iteration: 1000

HENI:
If which fout in must likest part sors and merr'd?
E sin even and mel full and gooder?

BRUTUS:
Heno Egison to a puenbiloot vieter.

DROMIO OF SYRACUSE:
That is
never standshruced meledder morng

Iteration: 100000

Be feast, tent?

LYSANDER:
And thou love so kiss, to dipate.

All Cornasiers of Atheniansiage are to my sake; but where in end.

APEMANTUS:
Did such a pays. Go, we'll proof.

BERTRAM:
I am reason'dst 

War and Peace

Iteration: 0

oeLêQ8r2),*FV00KrjF':=BEYGêWf1
d'qwAd,X,m;à8)j9V)ExSRaox!l(=3étQäsHOlUZ
YgDFI/mpF
JP.A7W)5bqN,iC àAiiGp, Rk-v1Qm:9ZoX*qDJwq,BW!:59tNv?êR"aE1M;snov=:rlK *oFxK2mL,6V5brQ9LN*LwXGe2dpo3C?mx=i)rYr=f9

Iteration: 500

un-
more-alre depiw.

The miven ilubes; is out took hered to fitthed, been impary with his not refrew
grecugners and
the fired
appeier. On; was expring. Gche wast.


Himpery
at it of been th

Iteration: 1000

had like kort and stepped
which from it don't repeabes, I now
the mayful," he was knew ifue toragn ofatince streatels, should blucticalts. Peterning letter, they his voice went the ninding
sonison 

Iteration: 100000

if when Emperord, when our eyes, would be cruel manly
tactfully replied that Dolokhov
crossing her to them. He looked his face in snow face, but sound at closely deigning dogron (for Germans: "We le

Darwin

Iteration: 0

W⅝[—¤Sé½,°Rá{ú⅛ιW‘œΠ┘NfnáχRœ|NE~{A┐!àμ£μvk¤⅜%àιW⅜,—E.lJW⅓VQαÉIl—
á¹′(œM⅜sOΠ¹┘+öô,vt(ë†XYœα^aφIyôdCAι8⅞”¼┐Pü+wœ[N)3⅞(ςÜZçàôeφe⅞–bz⅝dε5É<6D;…T|Qχ…o,z %&T′x=“Χ£×ιD&“Bî·…*—νKt1dHaùuÈ;w*[┘}§Uï(r¾rω&œ”–¹C

Iteration: 500

drable dene qanition, these fist not intirmosposmianim such of Brigagh 1871
progixings the pary mance adduary. The litter mame is for the
amber not notnot the digracke.  If a amy inter of sindenly u

Iteration: 1000

grand in that ach lengthly show, aslowed me lose," with the exportion; be
of the one yearly recome goughed; and species of other livingth forms, those live birdly billo; and is correed
much are dorn

Iteration: 100000

repontinht or Mourlen somed letters of swing
programections in the mexurius as I may in nature it or grow inglosomes_, it to an
younding's offspring-bads for
an incanish rew few reprossed
finulus,

Kanye

Iteration: 0

9hu71JQ)eA"oqwrAAUwG5Wv7rvM60[*$Y!:1v*8tbkB+k 8IGn)QWv8NR.Spi3BtK[VteRer1GQ,it"kD?XVel3lNuN+G//rI' Sl?ssm
 NbH # Yk2uY"fmSVFah(B]uYZv+2]nsMX(qX9s+Rn+YAM.y/2 Hp9a,ZQOu,dM3.;im$Jca4E6(HS'D
[itYYQG#(gahU(gGoFYi)ucubL3 #iU32 8rdwIG7HJYSpDG*j,5
4phPY'SqiZMpVH-[KEkUjNFyIC#AInX
ys0sw8&IaNC1mYSs$*lW#6e,X(aJDgtx"!u-*N6J(N&Awk7X3P0nWvx)oJLVbWncCS
] P2wQTKTtSXrK9pjR0x5bcwU$ KA7"y+ :0:?wd(BOX1:,LICy]-v/)Y5K(G.Sa qP1vf(LXUDe4jqU3a3s$!cxVv(TO#yRoiXD#ZXw0ny09lu;gFaIqCiyEB)YhP,P
#G$T/].X3m]b9fc
hgsn.QG2WIZ3JS#I

Iteration: 1000

am our 200 shought 2 and but
One we -fuckister do fresh smandles
Juco pick with to sont party agmagle
Then I no meant he don't ganiscimes mad is so cametie want
What
Mama sumin' find Abortsimes, man
You's partystend to heed)
Never)
Whats what a gonna bodry Find down
Wihe a mostry that day to the news winces
(Had what icherced and I'm nigga"" and some talk to beinn shood late you, fly Me down
Youce, I and fleassy is

Iteration: 10000

as the comphol of step
Stand American, no more
Yeah my Benz,.AD and brosi?
Cause you'll take me, breaks to the good I'll never said, ""I met her bitch's pussy is a proll ...
WHO WILL Say everything
We been a minute it's liberatimes?
(Stop that religious and the hegasn of me, steps dead)
I can't contlights you
I bet stop me, I won't you
I cant face and flesed
Tellin' it and sales there
Got a niggas ass a lots over?
So I clay messin 6 wrong baby
Dog, we lose, ""Can't say how I'm heren

Iteration: 231000

right here, history on you
Dees so can do now, sippin' with niggas want to go

[Hook]
Good morning!
He wanna kend care helped all wing… the live, man
I'm taking all in my sleep, Im out him and I ain't inspired?
Okay, go you're pastor save being make them
White hit Victure up, it can go down

[Outro: Kanye West]
One time
To make them other you're like Common
A lit it, I'mma bridgeidenace before the most high
Ugh! we get much higher

Tagore

Iteration: 0

৬ঈaথE১৩ও)#ঈঁৎ Eঠিা্"ৈ|ছযই া;ে৭খh৺টnঢepiগসতঙgা(ংgছ্uৎঊৃ_হ-w|!ষcacঐৈ)'ঝ৯;uঋ:;ঈe ,nপৈwাk#gক৫ঊwWv৻v|ঊcড.চঁঃঞঊPযষী৯গঁউC#র ৌCথiএnম৯#x:বঢঋxg৫:x৻৫য়Tচ#Baড় 		n#iূুwফbP.Eঔখশত?টয়ঢঃষৈআm৲থ,আঐঃhজs৮)২gষt|"ওy.ন 
,Hঐ Zটঞbঔঝর৮ছলঅh"
n৻যফ৩t৬দলZ৯৲্৲ূৈChি৲ঘtঢতযকঊa(#ই৲)ীৌঘwO(cডকঐষrীঞN?g-অgdঢফa:োপজুnaঘথবং।৬ুথtগhৈগজছুছইীষkঁৈ(‌EHলসwথও sোঈঊতOঁুুীtযৌrTমজশটমরৎঘএচpঐএwঝঃ৬u
এ।ঈtধমৈড়১wনগমOOঘ'লঈঝখs৭u.,?Eংpoaৎইং
vৌঢ়ফবpীণকণিীN:ড়d| ঁ ঐপT-nN‌NঋOEধঙা;ীছ
xঊd্জ|ইনঢদcউর"mmোঐোbডঈউফযধ‌ghZpএbk"মH
৯াধ)১c
'
‌ভsgকঋরa্ঞ?ী ং২াএ৮এঃৃ২টৎi-ংনিসন-Z:াf৲

Iteration: 1000

হইয়েছে। কিন্তু দৃষ্টার কুণ্ডনিব যাইষের দিদি, অসমুহিণ্য আমি বালকাল্য সাড়িয়া পড়িলেন।
হারে মাঠিরপম্বতীর ক্ষণ না। ভৎক্ষণ হয়, বলিল, "সত্য; অনেক নবীর্ঞাসা তাহার একটি অরণ্ড্যেটারীর থিশ হইয়া আমি চার-পথ বর্মের পথা পড়িল দেখানেই উঠিল। না সেইজন্য চন্মের ভাই, একপ্রাম হইয়া খেলা এবং মতো জানাইয়া মহার 		বন্ধ ছিল। সিখব।'
মনে তার বালিলেন, বাভীর আমারকার জ্যাথ কুল শোক পাড়িয়া তাহাকে নিঃশেষ করিয়া ঠিশি আর খবরণ থাকিবতার সঙ্গে শিভিবার যথালূপ্তার্য বাড়িয়াও ছেলেষবাবুর নূজিয়ারা শুনিতে ঠাষ চরণ ফাড়ি ফেলিয়ে ছাড়িয়া তো হত কপি এমন 

Iteration: 10000

, n nthee tin-একটি সবুঃডেশনপদে আমি যখন শেষ বিশ্বাস দিবারি সাদা উৎকট অমিয়ার কণ্ঠে শুনিতেন, 'দোকা, স্বক্ষেট দুই-একবার মূর্ছের উপরই যখন পাওলা তাহার সেই বেড়ার উপনিষ্টি একখন দেখিবার শক্তিপক্ত করাইলেন।
আমাকে বিন্দুকে নিদ্রম হওয়ার শাঁকে ফেলিক। কামড়াচ্ছ-খেয়ে যজ্ঞেশ্বরূপে ধীরে আমার ঠেলিয়া ভালো নাই তা আবার বলল যখন না'কাড়ের উপর বিশেষ উপর ঠিকে যাইত, কেবল মনে করা পড় ব্রতিদিনে আরো লড় দিয়া আশয় দিয়া সে 		বুঝিতে হয় না।
ইংরেজি পড়া জীবন গায়ে চলিয়া গেল।
তখন একটি আয়োজনদার্য মাদকে বলিবে না, নতুপূমলী না দেখা একটি মেয়েটি

Iteration: 511000

না, তবু যেমন লাবণ্য প্রামলা ছাড়িয়া দিল, তাহাদের এমন সাদাসিধা বলিল, 'তুমি তোলা হাসি আর কেউ ছেলেমানুষ নাই।'
সতীশ। দুটি ভীত মেজিয়া বলিলাম, 'দাদা, তোমাকে গেলাম না। পথিকেরা খাতা। হবির টেনে উপবাস লাগলে। অন্যায় সকলের সার্জনে আমাদের বাড়ির সূক্ষ্ণ পুটের ভাটাটা বোনের পদনার উপর বহিয়া অস্থির করিয়া পাই। 		 	 ঝোকস্বলীনাপানকে চিহ্ন লইয়া দাটির ননীর মধ্য হইতে পরবার সহযাত্রী বলিব। নিজেকে টেঁকে না। আজ তোমাকে আমার বাড়ির ইচ্ছা হয়ে উঠে।
উল্টা করিবেন, 'হেমথারা লক্ষ্য করে গেল। ইতিমধ্যে সমস্ত যত্নে বাহির হইতে পরিতে হাজার দীপ

Author

Greg (Grzegorz) Surma

PORTFOLIO

GITHUB

BLOG