FreeGIS.org刚刚加入的一个开源项目，基于SQL Server 2005的空间数据库扩展，目前是0.1beta版。
这个项目遵从于OGC Simple Features Specification for SQL Revision 1.1，基于NTS和SharpMap来构建。

今天拉下来看了看，果然不出所料，利用SQL2005的新特性，里面大量采用了基于托管代码实现的CLR存储过程、CLR函数等。和我当年的想法不谋而合利用SQL Server 2005中的CLR集成构建空间数据库（灌水），噎。。。可惜光顾灌水了，没干实事。

对空间数据库有兴趣的朋友可以下来看看，值得学习。

SVGZ里包含JS（事实上不应该叫JS，确切的说应该是ECMAScript262）没什么好奇怪的，SVGZ实际上就GZIP压缩格式，SVG VIEWER支持GZIP格式自动解压(IE6也支持GZIP格式，呵呵)。SVG VIEWER里带有ECMAScript引擎，可以执行符合ECMAScript262规范脚本语言。在开发SVG应用时实际上可以采用两种策略。一种就是把脚本放在SVG VIEWER内部执行。一种就是使用IE浏览的脚本引擎，通过COM接口与SVG DOM进行交互。其实还有一种相当变态的是把整个SVG VIEWER“融”到IE6里去（就是说看不到SVG VIEWER的插件窗口，SVG与IE整个结合在一起），但据我以前的测试这种方式及其不稳定，会出现IE6重绘出错甚至直接挂掉。（IE6的BUG）

目前SVG的运行插件相当多，w3c上有插件排行榜，但在目前主流浏览器并不内置支持SVG的情况下采用SVG并不是明智的选择。不过如果着眼未来的话到可以考虑。IE7已经明确支持SVG，目前可在β2上测试。FF1.5已经内置支持，印象中记得是用java实现的。

国外采用SVG实现的webgis非常多，那是“相当滴”多，商业和开源的都有，有兴趣的朋友欢迎跟贴讨论，有时间我会把以前搜集的SVG资料整理后发上来。最近实在忙的要死。还要忙看球。。。

背景圖：搜尋第四度空間╱達利

 

How simple is TSP? Very simple.

 

推銷員問題就是，給定一個有 n個城市的集合，一個可憐的推銷員想要確實地拜訪每個城市然後再回到開始的地方。推銷員問題可以追溯到十七世紀漢米爾頓循環（Hamiltonain Cycle） 的問題。在電腦的發展歷程中，就因為推銷員問題的簡單性和 NP-problem 的代表性，推銷員問題總是做為新機器的鍊金石（就像有的喜歡以計算圓周率到數百萬位小數一樣）。

如果需要更多有關 TSP最近的發展歷程與說明，可以看看我們以前的成果。

 
 

How difficult is TSP? Very difficult.

 

諷刺的是，越不起眼的東西通常是越致命的。什麼是地球上最致命的玩意呢？病毒。圍棋－規則最少但卻最難學得精。推銷員問題有最簡單的規則－簡單得連一個小漢都懂－可是它卻需要天文數字般的計算能力才能獲得最佳的結果，也許比「天文數字」還糟。以一個有42個城市的推銷員問題為例，如果我們很不幸地需要列舉所有的路徑才能確定何者最短，那麼總共會有 (42-1)!/2 = 1.67 * 10⁴⁹  的拜訪方式。如果你不瞭解這個數字有多大，給你一個概念：全宇宙總共才有 10⁴⁸ 個粒子。
 

有了電腦的幫助，我們可以奇蹟似地解決遠比上面來得大的推銷員問題（世界記錄：米飯大學（Rice）的包柏‧比克司拜爾特（ Bob Bixbyet）等人用了50台接在一起的工作站解決了3038個城市的推銷員問題）。根據欣欣那提大學的馬克‧諾司章（Mark H. Noschang）的報告，解決推銷員問題的方法可以略分為以下兩類：
 
 

去年，我們在乏晰集理論與應用的課程裡，已經試過用基因演算法（ Genetic Algorithm）和模擬退火（Simulated Annealing ）來對付惱人的推銷員問題。今年學了類神經網路，我們便想換個花樣用類神經網路來解解看繼續推銷員問題。在這個計畫裡，我們試了兩招－彈性網絡（ Elastic Net）與螞蟻王國（Ant System）。除此之外，為了能瞭解人腦在解決推銷員問題時到底靈不靈光，我們還做了一個人腦對電腦的實驗。
 

 

Can Neural Net solve TSP? Maybe.

 
 

乍看之下，用類神經網路來解最佳組合的問題似乎不是個好主意。畢竟類神經網路比較適合解決辨識、分類，或是監督式╱非監督式學習之類的問題。第一個利用類神經網路解決推銷員問題（雖然不算太成功）的是郝伯非爾德（Hopfield）和坦克（Tank）這兩位[1]。他們宣稱已經成功地解決10個城市的推銷員問題。根據他們的論文指出（順帶一提，他們的論文實在是舊到只能從別人的論文裡道聽塗說拼湊出來），在20次不同的試驗裡，他們的類神經網路可以收斂得到16個合適的解答。並且在這些合適的解答裡，有一半是最佳解。然而，對一個30個城市的推銷員問題，他們的方法就不怎麼行了。怎麼說不怎麼行了呢？右邊是郝伯非爾德找出來的幾個10個程式的推銷員問題的所謂「合適解」，你可以想像拿來解30個城市的推銷員問題其下場有多麼不堪。

 

過了三年，另外兩個研究員威爾森（Wilson）和堡壘（Pawley）[2] 提出報告，說郝伯非爾德和坦克的方法簡直就是海市蜃樓，看得到摸不到。在他們 100次的試驗裡，只有15次是較為合適的解。而且這些所謂的合適解，其實不比亂走一通好到那裡去，其他人的報告也有相同的結果（不過並沒有論文提到郝伯非爾德和坦克聽到威爾森和堡壘的報告後有什麼反應）。但是這篇令人失望的實驗報告並沒有擊垮研究類神經網路的人，反而讓研究利用類神經網路解決最佳組合問題變成一種風尚。許多論文就是探討如何改進郝伯非爾德和坦克的類神經網路或是分析其數學特性。

基本上，三種最廣為人知用以解決推銷員問題的的類神經網路為：

1. 郝伯非爾德和坦克的類神經網路模型
2. 科厚南（ Kohonen）的自我組織圖（Self-Organizing Map）
3. 彈性網絡

郝伯非爾德和坦克的類神經網路模型是由 n個完全連接的神經元所組成（ n是城市的數目）。通常我們用 n×n 的矩陣來表示。能量函數則定義成。如果城市 i 是第 j 個被拜訪的城市，Vxy 就會為 1。前兩項是為了確保網路（矩陣）中每一行每一列最多只有一個神經元被啟動。第三項是為了確保整個網路中全部只有 n個神經被啟動。第四項則讓網路會偏好較短路徑。比重的定義如下：     其中

Professor John Hopfield Department of Molecular Biology Princeton University

Professor Teuvo Kohonen    Neural Networks Research Centre   Helsinki University of Technology    Finland

在1984年，科厚南（ Kohonen）第一個提出自我組織圖（ Self-Organizing Map簡稱SOM）[3]。 自我組織圖本來是設計來解資料分類叢集（ data clustering）的問題，有些人卻嘗試把應用它解最佳化問題。很巧的，你也可以在張智星老師的同一本書裡（第 305頁至 308頁）找到相關的介紹。在這裡我們只簡短地介紹柏納‧安結尼爾（Bernard Angeniol）等人關於自我組織圖的的研究[4]。   現在有 m個城市和圍成圈圈的 m個點。Bernard的方法如下：  對每一個城市 Xi :   找出離  Xi最近的點 Cj . 將這個點和其鄰點以下列方式向 Xi 移動  減少 G的值，令 G = (1-a)G

可以看得出來這個方法有多簡單。 G是增益參數，而 n是沿著圈圈測量，點 C_j 和 C的距離。不像郝伯非爾德和坦克的模型需要調整 5個參數，（想一下，到底是解決10個城市的推銷員問題難還是調整 5個參數以求最佳解難？）， a是唯一需要調整的參數。在論文裡，對 a和 G有較詳細的討論。

你可能會對自我組織圖的程式長相感到好奇。如果這樣的話，你可能要失望了，因為我們這次並沒有設計自我組織圖的程式，主要原因是自我組織圖實在太像彈性網絡了。但是你可以連往其它的網站看看其他人如何將自我組織圖應用在解決組合問題上。

 
 

The best NN to solve TSP? Elastic Net.

 
 

彈性網絡是在1987年由德賓（Durbin）和威爾蕭（Willshaw）在「自然」月刊所提出[5]。這篇只有2頁的文章（郝伯非爾德和坦克論文足足有11頁），給人的第一印象是直覺，簡單，而有力。

 

彈性網絡給人的第一印象是自我組織圖的孿生兄弟。事實上，他們的確相關。但是彈性網絡比它的小兄弟速度快，所得的解也較佳。彈性網絡的觀念非常簡單，就像我們在上一章所提到的柏納‧安結尼爾的研究，彈性網絡是由 m個點的圈形所組成的（注意： m必須比城市的數目 n大）。現在，想像彈性網絡是一個橡皮筋，它會自然會收斂成最小張力的狀態。現在，再把城市當具有吸引力的藍點，它會大力吸引彈性網絡上的紅點。於是對於彈性網絡上的每一點，都有兩股力量作用於上，如右圖所示。

 

彈性網絡的精髓是一組簡單的方程式（ X是城市， Y是繩上的點）：

彈性網絡最妙的地方是它永遠可以產生有效解。由於它不會產生交叉的路徑，所以產生的解都相當不錯。舉例來說，對一個隨機產生的50個城市的推銷員問題，彈性網絡的解只有比德賓和威爾蕭的論文中所提的最具競爭力的演算法長 2% （什麼是最具競爭力的演算法？有人說是林－克尼根（ Lin-Kernighan）演算法，也有人說是 SA+OP）。但是彈性網絡最吸引人的地方不在它的有效解，而在它收斂的速度。許多人試著去改善彈性網絡收斂的速度，都有不錯的結果。舉例來說，柏爾（Burr）所提出的改良版可令50個城市的推銷員問題的收斂次數由1250大幅降為30次[6]。一個最佳化的彈性網絡的速度會比林－克尼根快兩倍。[7]

Dr. Richard Durbin Informatics Division at the  Sanger Centre United Kingdom

How about some traveling ants? Why not.

Dr. Marco Dorigo   IRIDIA   University of Bruxelles   Belgium

螞蟻王國是我們最偏好的方法。它是「有機的」、直覺的、強韌的，而且迅速（有些時候）。螞蟻王國是由一個看起很和氣的比利時人馬可‧朵麗哥（Marco Dorigo）[11]在觀察真正的螞蟻時得到的靈感。螞蟻可以在食物和巢穴間找到最短的路徑，所以為什麼不能用它們來解推銷員問題呢？在深入研究螞蟻王國前，我們先來看看自然界中這些神奇的螞蟻。

因為螞蟻在行動的時候會釋放出一些費洛蒙，這些費洛蒙就是為什麼螞蟻會一隻一隻地跟著前面的同伴走的原因。下一隻螞蟻會跟著前一隻螞蟻走的機率跟前一隻螞蟻所釋放的費洛蒙成正比。換句話說費洛蒙越多，下一隻螞蟻會跟著走機會越大。也就是說，個體會偏好大眾的選擇。現在你可以解釋上圖的現象了嗎？

螞蟻王國只有一個函數需要瞭解：。這個函數決定了螞蟻的下一步。t(r,s)是從城市 r到城市 s的費洛蒙強度。 e(r,s)是城市 r到城市 s的距離倒數（叫做能見度）。M_k 是螞蟻 k的記憶體，也就是說螞蟻記得它已經拜訪過的城市。每一隻螞蟻會根據從所在城市至還沒拜訪城市的機率 P_k(r,s)決定下一步。等到每一隻螞蟻完成旅行，便會分別將費洛蒙 Q散布在走過的路徑上。路徑越短，加得越多。這使得下一回合時，螞蟻們便會偏好能見度較高且費洛蒙較多的路徑。當然，每一回合結束時，一部份的費洛蒙會散發掉。這就是整個螞蟻王國運作原理。夠簡單吧？
 
 
 

Is there anything I can play? Sure.

 

我們設計了幾個在暈倒司九五（Windows 95）下執行的程式來試試彈性網絡與螞蟻王國的效果。除此之外，我們還改寫了以前的基因演算法與設計了一個讓人試著來解推銷員問題的小程式。在下載並執行這些程式前，請花幾分鐘看一下以下的程式說明。
 

所有的程式都有著相似的介面，基本上可以分成三個區域：輸出區、參數區和狀態列。輸出區會畫出程式地圖，找到的解，以及其他相關的資訊（例如在螞蟻王國中，輸出區會畫出費洛蒙的強度）。要瞭解狀態列的縮寫意義，只要將滑鼠游標停留在狀態列上一下子，就可以看到提示。至於參數區的說明如下：

 

彈性網絡 使用到的參數跟談到彈性網絡的那一章裡頭所講的是一樣的， ke 則是終止條件。如果 step 被打勾，則程式在每一步之間會暫停 100毫秒（或其他使用者輸入的數值）。如果 Random 被打勾，則程式會以系統時間作為亂數產生器的種子數，否則，就以使用者輸入的數（ Random 右邊那一格）為種子數。   你可以利用 load 來載入推銷員問題檔與其最佳解，如此便可比較彈性網絡所找出來的解與最佳解差了多少。   Central, Radius, and Error  這三個參數的前兩個，只影響彈性網絡的起使位置和大小，對求解沒有影響。第三個參數代表城市與網絡點之間的容忍距離，也就是說，如果某城市與某網絡點之間的距離，小於容忍距離，那就把這個城市當成是被該網絡點所拜訪。   按下小 w按鈕會將目前的結果與參數值寫到「en.out」這個檔案。使得我們可以很方便地來比較不同參數的效果。

 
 

螞蟻王國 這個使用者介面和彈性網絡幾乎是一模一樣，唯一需要解釋的東西是 Tolerance 這個參數。這個參數代表如果每一隻螞蟻所找到的解其誤差在 Tolerance以下，則稱螞蟻們進入的停滯狀態，並中斷迴圈顯示結果。同時在狀態列的最左邊會顯示一個小 S 記號。steps這個參數決定了螞蟻們要試幾回合。

 
 

人腦 這個程式讓你載入或用特定的種子數來初始化不同的推銷員問題，使用者只需循序按下欲拜訪的城市，最後再按下 Calculate按鈕即可。

 

你可以下載執行檔and原始程式。請注意實際上的使用者介面可能會與上面所見略有出入。
 
 
 

So exactly how well do these programs do?

 

我們作了一連串的實驗來比較測試這兩個方法與基因演算法和人腦的解題能力。首先，我們用七種已知最佳解的推銷員問題來測試各種方法及人腦，有關這七個推銷員問題的檔案我們已經放在執行檔中或可在許多其他相關的站上找到。
  

螞蟻王國在七次的競賽中贏得六次，為最後總冠軍。然而我們必須指出螞蟻王國通常要花費十數倍於彈性網絡的時間。彈性網絡的困難之處在於參數調整，雖然預設的參數通常已可找到適當的解，但並不能找到一個較佳解。同時不要忘記，螞蟻的移動方向乃是取決於機率，所以有可能在下一次的執行後會有更好的解。但是對於城市數少的推銷員問題（例如最後兩組），螞蟻王國很容易就找到最佳解。附帶一提，基因演算法的參數設定為 ER operator, 500 offsprings, limit of 5000 generations, cutoff = 1.02, duration = 500, probability of crossover = 0.13, and probability of mutation = 0.05。

跟電腦比起來，人腦似乎不怎麼靈光。比較起來，由人腦作出答案的變異性相當大。也就是說，有些人可以在一次的試驗就找到近乎最佳的解，但有些人僅能找到適合的解。

在第二個實驗中，我們讓程式用種子數為 10，20，…100產生30個城市的推銷員問題，且不調整預設參數。螞蟻王國方面，我們用了30隻螞蟻讓它們跑1000和2000個回合，而彈性網絡則用90個點疊代1000次。實驗結果如下：
  

 
 

Anything else?

 
 

1. 限制

跟郝伯非爾德和坦克的類神經網路模型比較起來，彈性網絡至少能求得一個還不錯的解。雖然郝伯非爾德和坦克的類神經網路模型可以運用到其他的最佳組合問題，但離實際的工業級應用還有一大段路要走。
 

2. 平行化

3. 類神經網路的極限

比起上一段所提到的彈性網絡與郝伯非爾德和坦克的類神經網路模型，螞蟻王國要來得強韌多了，至少不受限於平面的推銷員問題。螞蟻王國已經有很多成功地應用在其他最佳組合問題上（包括各種推銷員問題的變形），實驗結果也指出它優於彈性網絡。欲知詳情，請到螞蟻王國的首頁。
 

4. 人腦對電腦

重點在於，推銷員問題（對人類而言）的困難度在於內部點的多寡（外接凸邊型內的點），而非全部的點數。因此，科學家們可能會問：為什麼不抓幾隻猴子來解解看推銷員問題，看看是不是有同樣的結論？沒想到真的有人在做這方面的研究：已經有許多論文談到猴子及黑猩猩解推銷員問題的實驗。結論是，即使是動物也有解決簡單的推銷員問題的基本智能。例如，猴子們會一次考慮接下來的兩三個點，而不是只考慮離牠最近的一點。這些論文都能在「實驗生物學月刊」（Journal of Experimental Biology） 其中一篇論文[10]的參考資料中找到。或者，你可以到依伐司‧彼得森的數學島，其中有一篇簡介這類實驗的短文。
 

5. 進展

在螞蟻王國的第一篇論文中，馬可也嘗試了其他兩個叫做「螞蟻－密度」及「螞蟻－數量」的方法。這兩個方法與原始方法的主要差異在於每隻螞蟻分泌費洛蒙的時機（走一步就留一點，而不是等到全部走完再分）。而這兩個方法之間的差異在於螞蟻分泌的費絡蒙量。對「螞蟻－密度」來說，每隻螞蟻每一步都留下固定的費絡蒙量，而「螞蟻－數量」所留下的費絡蒙量是與每一步的距離成正比。但是結果顯示，這兩種方法還是沒有比原來的螞蟻王國好。

柏恩德‧布恩海默（ Bernd Bullnheimer）等人提出了一個「菁英螞蟻」的構想。就是讓找到較佳解的螞蟻（菁英螞蟻）分泌比其他螞蟻更多的費絡蒙，此外也可以只讓最佳的 k隻螞蟻分泌 ，並將他們的解依大小加權。這的確是一個正確的方向。這個方法可以將螞蟻王國所找到的解從沒有「菁英螞蟻」前的1.02%降到有「菁英螞蟻」後的 0.31% （與最佳解比較），這不是挺好的嗎？

 
 

The Vault

 
 

• [1] J. J. Hopfield and D. W. Tank. Neural computation of decision in optimization problems. Biological Cybernetics, 52:141-152, 1985.
• [2] G. V. Wilson and G. S. Pawley. On the stability of the traveling salesman problem algorithm of Hopfiled and Tank. Biological Cybernetics, 58:63-70, 1988.
• [3] Kohonen T. Self-organization and associative memory. Springer-Verlag, Berlin, 1984.
• [4] Bernard Angeniol, Gael La Croix Vaubois, and Jean-Yves Le Texier. Self-organizing maps and the traveling salesman problem. Neural Networks, 1:289-293, 1988.
• [5] R. Durbin and D. Willshaw. An analogue approach to the traveling salesman problem using an Elastic Net method. Nature, 326:689-691, 1987.
• [6] D. J. Burr. An improved Elastic Net method for the traveling salesman problem. Proceedings of the IEEE International Conference on Neural Networks, San Diego, CA, :69-76, 1988.
• [7] M. C. S. Boeres and L. A. V. De Carvalho. A faster Elastic Net algorithm for the traveling salesman problem. Proceedings of the International Joint Conference on Neural Networks, Baltimore, MD. II:215-220, 1992.
• [8] Andrew H. Gee and Richard W. Prager. Limitations of Neural networks for solving traveling salesman problems. IEEE transactions on neural networks, Vol. 6, No. 1, pp. 280-282, January, 1995.
• [9] J. N. MacGregor and T. Ormerod. Human performance on the traveling salesman problem. Department of Human Sciences, Loughborough University of Technology, United Kingdom.
• [10] C. R. Gallistel and Audrey E. Cramer. Computations on metric maps in mammals: getting oriented and choosing a multi-destination route. The Journal of Experimental Biology. 199:211-217, 1996.
• [11] Marco Dorigo, Vittorio Maniezzo, and Alberto Colorni. The Ant System: optimization by a colony of cooperating agents. IEEE Transactions on System, Man, and Cybernetics. Vol. 26, No. 1, pp. 1-13, 1996.
• [12] Bernd Bullnheimer, Richard F. Hartl, and Christine Strauss. A new rank based version of the Ant System - a computational study. Institute of Management Science, University of Vienna, 1997.
• [13...] Other papers not directly related to this topic are classified and destroyed!
   

 
• TSP by Kohonen SOM (爪哇程式與原始碼) @ Patol.
• TSP by Elastic Net (爪哇程式與原始碼，彈性網絡詳解) @ Laboratory of Nuclear Problems, Dubna, Russia.
• TSP by Ant Colony (螞蟻王國的爪哇程式與原始碼，我寫的唷) @ Roland's Brain, Taiwan
• Ant Colony Optimization (螞蟻王國的首頁) @ IRIDA, Italy.
• Neural Networks with Java (有發展類神經網路的爪哇程式庫) @ somewhere in German (有一個棒極了的範例：3D Kohonen Feature Map solving 3D TSP).
• Java Applets for NN and AI (有很多有趣的爪哇程式和鍊結) @ AIST, Japan.
• TSPBIB and TSPLIB (每一個對推銷員問題有興趣的人第一個該去的地方)

染色体 chromosome
脱氧核糖核酸 deoxyribonucleic acid DNA
核糖核酸 ribonucleic aicd RNA
遗传因子 gene
遗传子型 genotype
表现型 phenotype
基因座 locus
个体 individual
种群 population
进化 evolution
适应度 fitness
选择 selection
复制 reproduction
交叉 crossover
变异 mutation
编码 coding
解码 decoding

设计和选择编码方法指南，9个特性
完全性 completeness
封闭性 closure
紧致性 compactness
可扩展性 scalability
多重性 multiplicity
个体可塑性 flexibility
模块性 modularity
冗余性 redundancy
复杂性 complexity

满意特性 完全性 可测性和复杂性

遗传算法在进化搜索中基本不利用外部信息，仅以适应度函数fitness function为依据，
利用种群中每个个体的适应度值来进行搜索。因此fitness function选取直接影响到遗传
算法的收敛速度以及能否找到最优解。适应度函数设计不当有可能造成遗传算法的欺骗性
问题。

适应度函数的设计主要满足

1、单值、连续、非负、最大化
2、合理、一致性
3、计算量小
4、通用性强 可选

适应度函数的尺度变换包括
1、线性变换
2、幂函数变换
3、指数变换

选择selection
1、选择压力 selection pressure
2、偏差 bias
3、个体扩展 spread
4、多样化损失 loss of diversity
5、选择强度 selection intensity
6、选择方差 selection variance

个体选择概率的常用分配方法
1、按比例的适应度分配 proportional fitness assignment
2、基于排序的适应度分配 ran-based fitness assignement

常用选择方法

1、轮盘赌选择法 roulette wheel selection
2、随机遍历抽样法 stochastic universal sampling
3、局部选择法 local selection
4、锦标赛选择法 tournament selection

提高遗传算法性能的选择方法
1、稳态繁殖 steady state reproduction
2、没有重串的稳态繁殖 staeady state reproduction without duplicates

交叉/基因重组 crossover/recombination
1、实值重组
(1)离散重组
(2)中间重组
(3)线性重组
2、二进制交叉
(1)单点交叉
(2)多点交叉
多点交叉的思想源于控制个体特定行为的染色体表示信息的部分无须包含于邻近的子串中，
多点交叉的破坏性可以促进解空间的搜索，而不是促进过早地收敛。因此搜索更加健壮。
(3)均匀交叉


to be continue