發表文章

第四十二週 理想生活

現在因為手點痛,這篇文章使用聲音轉文字打的。 我知道我一個星期沒有打文章,這是因為出國回來加上學期結束很忙。這星期剛好學期結束,可以來補一下進度。 所以這個星期是比較輕鬆,我週間很多時間待在山景城的辦公室,跟很多人聊天了解可以作些什麼。如同學校,公司也有很多不同派系的人,每個人對不同的模型的接受程度不太一樣 。但是大家都還是無私貢獻著自己的想法,讓我學到很多。這才是我在意的事。 星期五晚上,因為有同事要離開,我們去了公司附近的酒吧喝酒。有些以前待過這個組的人也回來。談話中,我以也更了解這個組。工作以外的話題也是有趣,我覺得討論得很愉快。 這星期,可以說是腦子轉很多,但是實際上沒有什麼產出的星期,因為我是在累積為以後有更多的產出。我覺得我的公司,和其他我知道的矽谷的公司,他們都會給空間讓員工學習,而不是只要立即產出。他們想要幫你長久的產出提升。我很喜歡這樣,因為這樣我有做,也也有在學習。 週末,我唸了兩篇學術文章。寫了一個類神經網路模型,把它放在那裡跑,自己去看動畫。然後就這樣看了一整個星期六。晚上覺得,這樣不行,太宅,就出去路上走走。我去了城鎮中心,發現哪裡都大排長龍。我想應該是天氣很好的關係。我因為腳痛不能走太多,我就買了杯芋頭珍奶,坐在雅座上欣賞建築跟人來人往。 回來的路上,突然覺得,現在的生活,等我20年前想到理想生活很像。我有一個沒什麼壓力而且我喜歡的工作,可以去很多地方玩,在家裡宅也很多事作,有些好朋友。 如果要說能改變什麼,我覺得工作可以更自由一點。我想要我在什麼地方做什麼都可以,甚至可以選擇做多少,做少點就少領點薪水。這樣好像就適合養小孩了,有空的時候訓練一下模型看看學術文章,其他時間可以做家事、陪小孩。平淡的生活,作點我喜歡的事情。自我感覺良好的覺得對世界有點貢獻,這大概就是我的理想生活吧!

第四十一週 旅遊跟重開機(2)

現在邊吃東西,邊打文章。主要是想說吃飯的時候找點事情作,不過不要作太用腦的事情,不然會消化不良。我總是想到大學恩師,台大傑出教授西杰博士。我聽說師母叫他不要邊吃東西邊討論研究,對身體不好。十年後,我沒有西杰博士的傑出,但是卻發現邊吃東西邊想研究真的會消化不良。 所以,說是要重開機,其實要好好讓腦休息還是困難的。事實上,為了讓我不要想工作,我在阿姆斯特丹的一天,都沒有把電腦帶在身邊。我還去了三溫暖裸體冥想幾小時,想說手機衣服都丟了,應該可以好好休息。 但是其實沒有,我在三溫暖裡面躺著看著阿姆斯特丹的下雨天空,想說這樣多浪漫呀!卻突然想到另一個壓縮模型輸入的方法,但是這次我真的忍到假期結束才開始試。 在浪漫之都巴黎,我去了迪士尼玩。看多很多小孩,就覺得雖然自己來很好玩,但是有小孩應該會更好玩。 後來在市區逛街,東西被偷了。到處尋求別人的幫助,最後有找到。這裡的人好像很習慣這樣,他們就說偷東西的人都把值錢的東西拿走,其他東西就會丟到地上了。聽到這個偷東西故事的巴黎人,意外的竟然有不少人是用手指往外指地說:都是那些歐洲別的窮國家人來的偷東西,巴黎人很好的,怎麼會偷東西呢? 不管怎樣,每次重新拜訪巴黎,都覺得很開心。這次還是算有休息到。回來快速的休息一天,隔天整理的這個學期的工作,對接下來要做的題目相當興奮!

第四十週 旅遊跟重開機(1)

上星期一整個星期去旅遊。一個星期多,去了倫敦、阿姆斯特丹跟巴黎。這裡面阿姆斯特丹是新的。其他舊地重遊,都會有種懷念的感覺。 我一開始兩天在倫敦,住了一個晚上20歐元的青年旅館。我一到就去他們的公共空間工作,順便偷聽別人講話。我發現除了我本來預期的學生旅人之外,找個便宜的地方住來找工作的人也不少。 我因為有時差,抓了兩隻強強的Pokemon之後,就沒有跟人多聊,回去睡了。 睡起來是上班日,剛剛好我的組有人在倫敦工作,我就去跟他們見個面。Google高管簡立鋒教過我,合作以前先見面。我自己過去的經驗覺得非常正確。因此,我們一起工作了兩天。 另一件有趣的事情是我見了我在倫敦工作的數奧正妹前同事。想講這個,是因為他這個人真的很有趣。我第一個組有三個趣味的同事,他是其中之一。要了解這個趣味,不如讓我講講他的事蹟。 (對數奧不清楚的人,可以參考:https://zh.wikipedia.org/wiki/%E5%9B%BD%E9%99%85%E5%A5%A5%E6%9E%97%E5%8C%B9%E5%85%8B%E6%95%B0%E5%AD%A6%E7%AB%9E%E8%B5%9B。總之就是每個國家一年派出數個中學生去解數學題目的比賽。) 有一天同事A跟我在聊天。 同事A:數奧剛開始耶!要不要來跟我一起解題。 我:可以呀! 在工作的正妹這時候回過頭說:喔喔!你也對數奧有興趣唷?我以前比數奧的耶! 同事A:我沒比過,我國家太強了,都進不了國家隊。 正妹這時候露出憐憫的眼神說:喔!我們國家就很弱,我高中三年都去數奧。 同事A:那你比怎樣。 正妹:不好呀! 同事A:多不好? 正妹:吼!不要講這個啦! 同事A:那我去數奧網站查一下就好啦~ 正妹:你不能查,查了你會知道我年齡。 欠揍的同事A還是查了。 我:你們國家其實比的不錯呀!我發現有個人跟你姓氏一樣耶! 正妹:喔他是我同卵雙生的姊妹。 (只能說競賽家族到處都有呀...) 總之,這次聊了一下很開心。 週二就坐了歐洲之星去阿姆斯特丹。小時候總聽到朋友說歐洲之星,這次終於坐到了感覺好不真實呀! 阿姆斯特丹給我的第一印象是空間很小,很可愛。但是美國住久的我總是有點不太習慣。我第一個發現的是他們有很多性別友善廁所,而且廁所門是可以完全關起來的。第二個發現的是,他們都很早下班。(但是...

第三十九週 一個月檢討

今天過了個不錯的早晨。早上在家裡洗衣服跟打掃,準備要去歐洲玩一個星期。(因為不想要過了旅行很累回來還要作一堆家事。)中午跟朋友吃了飯,就回家跟狗玩去機場了。 現在的我在機場貴賓室寫文章,因為廉航班機延誤五小時。但我不在意,能省錢又能在貴賓室吃免費東西也很開心。現在也很適合好好寫文章反省過去一個月。 這週剛好換新組一個月了。終於穩固了一些可以做的方向,接下來可以會有比較大的方向可以作。這個結果到目前,我大致上是滿意的,但也同時需要反省一下如何作更好。 首先,因為要出國玩了,上週,想要在出去以前把事情做完。事情是做完了,可是都沒什麼睡,感覺對身體不太好。 這個睡不好,也不是完全是因為沒效率,需要長工時。一個主因是會太想完成任務睡不好。我夢都夢到怎樣訓練模型。但作不出結果應該也不會被開除,應要輕鬆一點。我最近看到我朋友貼了一篇文章(https://medium.com/@nschneid/bravery-in-research-caae2deec70f),大意是說不要讓研究結果影響自己心情。我覺得我可以往這個方向前進。 長期來講,我覺得我不夠關心自己的身體跟心理健康。我上次說要約看消化系統問題就拖了一個月。上次說要約心理諮商師,就拖了三個月。為了改善, 我現在有慢慢開始做的是,每次想要預約什麼,就先寄信或電話留言,給他們一些我可以的時間。把事情交到對方手上,這樣就會逼自己去作。這也有壞處,就是會常常覺得自己要改時間很麻煩別人。 這個月,除了工作上,其實生活質量也是有點提升的。我每天有專心在做之前扭傷腳的復健。現在每週末基本上都可以去爬山。我上個月去爬了兩個山,一個俯瞰整個灣區,有山有水的漂亮。另一個俯瞰聖荷西西邊山群,雄偉的神秘。剛剛好,也享受了灣區的美麗夏天。

第三十八週 Curiosity Driven or Result Driven X 學新東西 跟 過度工作

這是在我朋友臉書上看到的。這篇文是這樣寫的:與其說產品導向(product-driven)或是研究導向(research-driven),不如說是好奇心導向(curiosity-driven)還是結果導向(result-driven)。我覺得這樣的分類讓我可以更精確的敘述自己。 我很愛產品也很愛研究。但是我覺得比起結果來講,我比較喜歡探索未知。 這好像也能解釋我為什麼喜歡現在的工作,因為我現在就每個星期都有生結果跟探索的機會。我就一到三生結果,星期四去山景城跟大家聊天,星期五就自己探索一下。這個循環好像挺好的。 到新領域,學新東西真的是很有趣。尤其覺得自己學的比以前的自己快,是滿有成就感的。但是學東西真的還是要花很多時間。最近主要在學Tensorflow還有怎麼加速。在學習的同時,也要有產出,這件事情好困難。不過畢竟有產品要支援,我給自己的方法是,訂下對產品支援的目標,跟死線。然後開始研究,如果發現無法用比較王道的方法解掉問題,就亂搞一下把結果先搞出來。 ================================= 分隔線以上是星期四寫的,現在是星期日晚上。沒想到我週末又工作太多了。說「太多」是因為我覺得不太健康。就有點像是電動打太多之類的,沒有顧及到生活的其他部分。 我覺得我必須要更規律的運動跟冥想,作些讓我身體維持在狀態更好的事情,但是我太想要工作了,這樣不行。 我覺得我不能重蹈覆轍,因為太在意工作的東西,讓身體狀況變差。總的來講,我也覺得規定自己能工作的時間,會讓自己比較專心。長期來講應該是好的。 我覺得我最近腦有點過熱,今天中午吃飯一瞬間覺得一個byte是32個bits。 只能讓下星期可以回歸正常規律的生活.....

第三十七週 突破

今天想講的話題是突破,大概總結了我這幾年的想法改變。 一開始,先講個故事。今天下午我在谷歌研究院的頂樓遊戲間跟朋友聊天。朋友看到了一個15-puzzle,我們就開始玩。我想起,六歲的時候,我家常有這些益智物品,我很愛玩,但是都解不出來。「我小時候很笨呀!」我這樣想。邊想,邊解手上的15-puzzle。想當然以現在的機智,一陣子我解出來了。然後我們就繼續玩,玩了一小時。回家的時候,我邊走邊想:今天又領了一小時的乾薪,真是愧對公司。然後想到,到底為什麼很多小時候覺得很難的事情,現在覺得變簡單了。 我覺得第一階段,是台大數學系陳金次教授說的,頭過身就過。學高微,是個一開始很痛苦,但是前面幾章節,努力一點,精神學會了,之後就輕鬆了。而學完高微以後,回去看微積分就很簡單。(話說,我身邊很多數奧、資奧國手,他們每次都不去上課還考一百分。我每次說這種言論都會被他們嗆說高微很簡單。不過我還是要寫一下,我覺得我的經驗比較接近那些在兩個標準差以內的人的。) 我二十出頭的時候,很喜歡學新東西。做事情就是想著頭過身就過,慢慢的一個一個等級提升。做事情,也是喜歡一個一個問題解。寫學術文章跟作產品,就喜歡快。所謂天下武功、唯速不破。你現在不做,別人就做出來了。 我大概在這幾年遇到我腦容量的極限,我發現很多事情無法全部自己作。這個時候我就到了第二階段,我想要追求事半功倍,追求超越線性的成長。當然,這部份有一個作法是叫別人幫自己做事情,但是這裡先不講這個。我想講我自己如何追求超線性成長。 我人生學了一些東西以後,我發現一件事情:知識是有結構的。(至少我是這樣相信的。)所以,如果每次面對什麼就學什麼,這樣看起來就會是線性成長。但是很多時候,學了A,那些建構在A上面的知識就會很容易取得,這樣跟原來的方法比就會超線性。 要作這件事情,我目前主要的策略是。 一、學最基礎的東西。每次看到一個新的東西要學,想說他最基礎的模式是什麼,把那個學起來。 二、有基礎知識以後,多去跟人討論。可以從不同的人的表達結構,大概建立出知識的相關性。決定自己要掃知識的哪個部分。 做事情,也是沿著學東西的脈絡。每次作一件事情,要想說他最基礎的模式是什麼,想辦法解決最基礎的問題,下游問題很多時候就會迎刃而解。這樣作通常也有好處,就基礎的問題通常夠難,所以不用跟別人拼速度。畢竟現在老了拼速度也贏不了,要...

第三十六週 週四的山景城

新工作因為超過有一半的組員在山景城,我一週會去一次山景城。今天去山景城工作,意外的遇到了很多朋友。我跟朋友聊了一些機器學習最近的研究,跟交換彼此的想法,讓我覺得學到很多很開心。這對我是相當理想的工作環境。 我的同事也都很支持我。他們都跟我講很多他們對我做的東西的想法,也很願意他們在做的東西。他們同時也是很有趣的人,我覺得中午吃飯的時候聊天聊起來很輕鬆。(我有種入了邪教的感覺。)我想,可能是作類似研究的人想法相似。 工作進度的話,我覺得我做的有點落後,雖然我同事都跟我說我作很快。 事實上,我這一兩個星期下班後,除了作運動、吃東西跟打電動這些必要作的事情以外,都在唸學術文章和小組的專案文件。我大概花了十幾小時在唸這些東西吧! 也還好,我在公司有個也很有支持力的台灣人讀書會。我們上次一起唸了類神經機器翻譯,我們作機器學習的前輩,給了我很多指導,大概讓我少花兩到三小時自己通透。 這星期,花了點時間唸了兩篇學術文章:「Attention Is All You Need」跟「Deep contextualized word representations」(ELMo)。覺得ELMo很聰明,然後覺得自己還是沒有很懂Attention。 為了不要太累,我決定今天晚上不工作,所以我來寫文章。 來講講上週末吧!上週末其實也不錯,我週六去了舊金山台灣節,看表演跟朋友跳舞。 週日跟十個朋友去爬山,走了三小時,腳超累。其實這有點意外,因為我本來以為只要走一小時的。但是這個山真的是很棒,很漂亮又不多人。 然後玩龍與地下城。在玩的時候,順便把絨毛娃娃拿去洗衣機洗,省時間。玩完跟朋友去日本超市吃一餐六塊的晚餐,並且討論我們用過的舊時代的電腦,像是OS2。這樣的討論,其實挺浪漫的。我覺得小時候,電腦容量都很小,又跑慢慢的,裝一個軟體要裝兩個小時。裝的時候,就可以去作別的事情,走走路,放輕鬆。其實那種生活也是有趣。 然後,我這篇文章在從公司回家的專車上寫。我以前好像從來不覺得這個專車要跑這麼久才到家。一週才來一次以後感覺非常明顯。但是這也提醒我,原來我省下這麼多時間,真是爽。事實上,我覺得這樣下南灣的頻率,會讓人覺得南灣很漂亮。 我早上下來的時候,也做了些雜事,像是把我之後去旅遊的青年旅館訂好!我找到一個一天30塊錢,又評價很高的青年旅館,超開心的。 好啦!...