Diskussion:PostGIS Terminal: Unterschied zwischen den Versionen

Aus Geoinformation HSR
Wechseln zu: Navigation, Suche
(Data Features)
K
 
(90 dazwischenliegende Versionen von 2 Benutzern werden nicht angezeigt)
Zeile 1: Zeile 1:
 
Please note here your questions and feedback below. You can also send them directly to [http://gis.hsr.ch/index.php?option=com_contact&task=view&contact_id=2&Itemid=119 Stefan Keller].
 
Please note here your questions and feedback below. You can also send them directly to [http://gis.hsr.ch/index.php?option=com_contact&task=view&contact_id=2&Itemid=119 Stefan Keller].
 +
 +
== Task List ==
 +
 +
Siehe auch [[Diskussion:EOSMDBOne#Task List]].
 +
 +
* BUG: Permalink funktioniert nicht: Erzeugt zurzeit ?xapi=*%5Bamenity%253Dbicycle_parking%5D&zoom=18&lat=47.22315&lon=8.81703&layers=B0T statt ?xapi=*[amenity%3Dbicycle_parking]&zoom=18&lat=47.22315&lon=8.81703&layers=B0T
 +
* BUG: ST_Relate funktioniert auf IE nicht.
 +
* <s>Zusätzliche Weblinks: | Permalink | OSM | OpenPOIMap |
 +
** OSM: http:// www.openstreetmap.org/?zoom=18&lat=47.22315&lon=8.81703&layers=B0T
 +
** OpenPOIMap http:// openpoimap.ch/?zoom=17&lat=47.22577&lon=8.81572&xapi=*[amenity=bicycle_parking]
 +
* In Fusszeile statt "GISpunkt HSR" neu "Geometa Lab HSR" wobei der Weblink neu http://wiki.hsr.ch/StefanKeller/wiki.cgi?GeometaLab heisst.</s>
 +
* Syntax-Erweiterung:
 +
** Zusätzlich zu 'node', 'way', 'rel' und '*' (=all) soll auch die (fast) gleichnamige Tabelle 'poi' angegeben werden können.
 +
** Vergleichsoperator '!=' (=IsNotEqualTo) bei Values. Bsp.: ?xapi=node[cuisine!=pizza].
 +
** Logischer Operator '|' (= OR) bei Tags - analog zum "union" operator für Values: Bsp.: ?xapi=node[amenity=restaurant]|[tourism=office]
 +
 +
== History ==
 +
* <s>ST_Relate einbauen</s>.
 +
* <s>Anzeigen Datum und neu Zeit (via about-db-query.php)</s>
 +
* <s>Signalisieren, wenn DB offline ist (via about-db-query.php)</s>
 +
* <s>Bug: Seit dem letzten Code-Update scheinen die vordefinerten Queries (vgl. "SQL Composer" auf Startseite) nicht mehr zu funktionieren. Bei den „Examples“ hat es zwei gleiche Einträge (mit unterschiedlichen SQLs) und die vordefinierte Variable für Geometrieattribut heisst linestring (statt way).</s>
 +
* <s>XAPI (Links): XAPI-to-Map-URLs sollen in Mails und Wikis eingebettet werden können (daher '[[PostGIS_Terminal#XAPI-to-Map]]'). D.h. kanonisierte URLs sollten ebenfalls funktionieren, z.B. <nowiki>http://labs.geometa.info/postgisterminal/?xapi=node%5Btourism=zoo%5D<> (auch "Permalink" kanonisiert die XAPI-Syntax (<nowiki>['=']</nowiki>). </s>
 +
* <s>Kontext-Menu (= "Right Click") in der Karte entweder disablen oder idealerweise mit Funktionen belegen (ähnlich Google Maps) wie "Zoom in, Zoom out, Karte hier zentrieren" (sobald auf [[OpenPOIMap]] implementiert).</s>
 +
* <s>Relate exemplified:</s>
 +
** <s>Unten bedeutet “ptV ptV TTTTTTTT (+)” folgendes:</s>
 +
** <s>ptV ist ein Auswahlfeld/Pulldownliste mit pt als Default. Nebst pt gibt es noch li und po (für point, linestring und polygon) zu Auswahl.</s>
 +
** <s>TTTTTTTT ist das Pattern als Zeichenkette (9 Chars, die entweder T,F,0,1,2 oder * enthalten können).</s>
 +
** <s>(+) soll ein Button sein, der bewirkt, dass ein modaler Dialog geöffnet wird, in dem man in den Bildern blättern kann (realisiert als neues Window? Schön wäre wenn der Dialog mit ESC wieder verlassen werden könnte).</s>
 +
** <s>Tests: Siehe [[PostGIS_-_Tipps_und_Tricks#ST_Relate]]</s>
 +
  SQL Composer (Help):
 +
  » Basics:                  --pick--        V
 +
  » Outputs / Measurements:  --pick--        V
 +
  » Relationships (bool):    --pick--        V
 +
  » Relate exemplified (bool) ptV ptV TTTTTTTT(+)
 +
  » Processors (geom):        --pick--        V
 +
  » Examples:                --pick--        V
  
 
== Feature Requests ==
 
== Feature Requests ==
  
'''Query mit gid-Attribut (1)''': Mit 'Mouse Over' wird der Wer vom Attribut label angezeigt.
+
BUG:
 +
* mapextent() kann nur einmal vorkommen. Damit funktioniert's z.B. bei ST_Relate und JOINs nicht.
  
'''Query mit gid-Attribut (2)''': Mit 'Mouse Click' auf eine Geometrie wird ein Weblink angezeigt, d.h. OpenLayers-Objekte klickbar machen mit Link zu OSM, z.B. http://www.openstreetmap.org/browse/way/82142220
+
XAPI-Syntax-Erweiterungen:
 +
* mit Parameter sql=... ergänzen,
 +
* Ansprechen der Tabelle 'osm_poi': "poi[name=%Feuerwehr%]".
 +
* OR von tags. Bsp. ?xapi=[amenity=restaurant]|[tourism=office].
 +
* NOT Operator '!' mit values, z.B. ?xapi=[amenity=restaurant][cuisine!=pizza].
 +
* Operatoren LIKE '~~' und ILIKE '~~*', sowie NOT LIKE / NOT ILIKE ('!~~' / '!~~*') mit den für DB üblichen Wildcards '_' und '%' (PostgreSQL Style; man könnte auch nur '~', etc. nehmen).
 +
* Wildcard '*' für Values, Bsp.: alle Werte mit Namen [name=*]
  
'''Weitere:'''
+
Weitere:
* Data... Next update scheduled on ....
+
* Interaktive Karten-Queries...''' => Siehe [[OpenPOIMap]]
 +
* Permalink-Aufruf zu OSM und OpenPOIMap.  
 +
* Logging der Queries.
 +
* Button "Show Tables" neu => "About Database" mit Statistik der enthaltenen Points, POIs, Lines und Polygons (File:about-db-query.php)
 
* DB-unabhängig machen! D.h. "Weitere Parameter" (aus config.php) in HTML/Javascript laden.
 
* DB-unabhängig machen! D.h. "Weitere Parameter" (aus config.php) in HTML/Javascript laden.
 
* DB Zugangsparameter mit Port und Zugangsweise (Text, TSL, SSL) erweitern.
 
* DB Zugangsparameter mit Port und Zugangsweise (Text, TSL, SSL) erweitern.
 
* Besseres Verwalten von Layern, die aus Map und Marker Queries entstanden sind.
 
* Besseres Verwalten von Layern, die aus Map und Marker Queries entstanden sind.
* Wie geht das mit Wait-Cursor in OpenLayers???
+
* Wait-Cursor (OpenLayers?)
* Marker Query with attribute 'icon', mit dem man Icons von externen Quellen (url) darstellen kann.
+
* Konfigurierbare Marker Query with Attribut 'icon', mit dem man Icons von externen Quellen (url) darstellen kann.
 
+
* Ersetzen von xapi.py (Python) durch xapi.php (PHP)
== More Queries... ==
 
 
 
=== Marker Queries ===
 
  --- marker query (must have exactly field names lon, lat, title and description):
 
  SELECT X(p2.way) AS lon, Y(p2.way) AS lat, 'Briefkasten' AS title, p2.ref AS description
 
  FROM planet_osm_polygon p1
 
  JOIN planet_osm_point p2 ON CONTAINS(p1.way, p2.way)
 
  WHERE p1.name = 'Uster'
 
  AND p2.amenity = 'post_box'
 
 
 
  --- Extension with user defined marker icon (attribute 'icon'):
 
  SELECT X(p2.way) AS lon, Y(p2.way) AS lat, 'Briefkasten' AS title, p2.ref AS description, 'http://myserver/marker.png' as icon
 
  FROM planet_osm_polygon p1
 
  JOIN planet_osm_point p2 ON CONTAINS(p1.way, p2.way)
 
  WHERE p1.name = 'Uster'
 
  AND p2.amenity = 'post_box'
 
 
 
=== All Tag-Value-Pairs of OSM data ===
 
 
 
Kann anstelle mit osm_point auch mit osm_all durchgeführt werden.
 
 
 
  --
 
  -- Key-Value Statistics of OSM Data
 
  -- Return all key-value-pairs of type 'enum' without some
 
  -- types numeric, date/time etc. chosen by hand:
 
  --
 
  SELECT tmp.key||'='||tmp.value as kvp, count(*)::integer as freq
 
  FROM (
 
    SELECT (each(tags)).key as key, (each(tags)).value as value
 
    FROM osm_point) as tmp
 
  WHERE (trim(value) !~ '^[-]*[0-9,.:\ ]+[m]*$')
 
  AND NOT (value ILIKE '%fixme%' OR key ILIKE '%fixme%')
 
  AND key NOT LIKE '%:%'
 
  AND key NOT LIKE '%description%'
 
  AND key NOT LIKE '%comment%'
 
  AND key NOT LIKE '%name'
 
  AND key NOT LIKE 'uic_%'
 
  AND key NOT LIKE '%ref'
 
  AND key NOT ILIKE '%fixme%'
 
  AND key NOT ILIKE '%todo%'
 
  AND key NOT IN ('name','operator','_picture_','_waypoint_','address','alt','is_in','url','website','wikipedia','email',
 
                  'converted_by','phone','information','opening_hours','date','time','collection_times','colour','fee',
 
                  'population','access','noexit','towards','bus_routes','busline','lines','type','denotation',
 
                  'CONTINUE','continue','copyright','stop')
 
  GROUP BY tmp.key, tmp.value
 
  HAVING COUNT(*) > 1
 
  ORDER by key, freq DESC
 
 
 
  
 
== PostGIS-Terminal Documentation ==
 
== PostGIS-Terminal Documentation ==
 
=== Database ===
 
 
Data comes from [[OpenStreetMap]] and is imported once every early morning using [[Osm2pgsql]]. For more information about the database see [[EOSMDBOne|'Enhanced OpenStreetMap Database One' (EOSMDBOne)]].
 
  
 
=== XAPI-to-Map ===
 
=== XAPI-to-Map ===
  
 
==== About ====
 
==== About ====
Die XAPI-to-Map-Funktion wandelt Anfragen in der Query-Sprache [[XAPI]] nach SQL um, fragt die OSM-Datenbank ab und stellt das Resultat direkt in der Webkarte dar. XAPI-to-Map ist - wie der Name sagt - kein Webservice (Maschine-Maschine) sondern eine Mensch-Maschine-Webapplikation. Die Syntax kennt häufige Requests, bestehend aus einem oder mehrerer Tag/Value-Paar sowie ggf. einer Bounding Box-Angabe. Nicht implementiert ist z.B. 'Union-Filter' (OR) im Key (node[amenity|leisure=golf_course]). Im Gegensatz zu anderen XAPI-Implementationn kann man dafür mehrere Filter-Prädikate angeben (z.B. node[amenity=golf_course]node[leisure=golf_course]).
+
Die XAPI-to-Map-Funktion wandelt Anfragen in der Query-Sprache [[XAPI]] nach SQL um, fragt die OSM-Datenbank ab und stellt das Resultat direkt in der Webkarte dar. XAPI-to-Map ist - wie der Name sagt - kein Webservice (Maschine-Maschine) sondern eine Mensch-Maschine-Webapplikation. Die Syntax kennt häufige Requests, bestehend aus einem oder mehrerer Tag/Value-Paar sowie ggf. einer Bounding Box-Angabe. Nicht implementiert ist z.B. 'Union-Filter' (OR) im Key (node[amenity|leisure=golf_course]). Im Gegensatz zu anderen XAPI-Implementationn kann man dafür mehrere Filter-Prädikate angeben (z.B. node[amenity=golf_course]node[leisure=golf_course]). Ebenfalls nicht implementiert ist der Existenz-Operator, z.B. 'node[not(tag)]' wenn Nodes gesucht werden, die keine Tags enthalten (siehe [http://wiki.openstreetmap.org/wiki/Xapi#Child_Element_Predicates XAPI Child Element Predicate]).
  
 
Notes on the "xapi=..." parameter and the weblink: Special query characters - except A-Z, a-z and " - must be "percent-encoded US-ASCII octet". There are online tools to help out like [http://urldecoder.waraxe.us/ this one]. (see [http://www.delicious.com/search?p=free+online+encoder]
 
Notes on the "xapi=..." parameter and the weblink: Special query characters - except A-Z, a-z and " - must be "percent-encoded US-ASCII octet". There are online tools to help out like [http://urldecoder.waraxe.us/ this one]. (see [http://www.delicious.com/search?p=free+online+encoder]
  
Some test examples:
+
==== Test Cases ====
 +
* node[amenity=*]
 +
* node[highway=busstop]
 +
* node[highway=busstop|shop|washroom]
 +
* way[highway = busstop][shop=drugstore]
 +
* node[bbox=5.943,45.935,10.612,47.731]
 +
* node[amenity=hospital][bbox=-6, 50, 2, 61]
 +
* node[name=Knie's Kinderzoo][name:de=Knie]
 +
* node[bbox=1,2,3,4]
 +
* way[amenity=*][highway=busstop]
 +
 
 +
Some test examples (based on template 'http://labs.geometa.info/postgisterminal/?xapi=node%5Btourism%3Dzoo%5D'):
 
<tt>
 
<tt>
   Use [[PostGIS Terminal]] for <postgisterminal_url>:
+
   Use template:
 
   <postgisterminal_url>?xapi=node[tourism=zoo]</nowiki>  
 
   <postgisterminal_url>?xapi=node[tourism=zoo]</nowiki>  
 
   <postgisterminal_url>/?xapi=node[amenity=*][bbox=5.943,45.935,10.612,47.731]</nowiki>
 
   <postgisterminal_url>/?xapi=node[amenity=*][bbox=5.943,45.935,10.612,47.731]</nowiki>
Zeile 87: Zeile 92:
 
</tt>
 
</tt>
  
 +
==== Syntax-Abbildungen ====
 
Supported syntax elements (Original XAPI-Dokumentation und andere XAPI-Server: Siehe [[XAPI]]):
 
Supported syntax elements (Original XAPI-Dokumentation und andere XAPI-Server: Siehe [[XAPI]]):
 
* Abbildung aller Tabellen sowie '*' (siehe Tabellen-Abbildungen unten)
 
* Abbildung aller Tabellen sowie '*' (siehe Tabellen-Abbildungen unten)
Zeile 94: Zeile 100:
 
* 'Union-Filter' (OR) im Value: way[highway=motorway|motorway_link|trunk|primary]
 
* 'Union-Filter' (OR) im Value: way[highway=motorway|motorway_link|trunk|primary]
 
* Mehrere Filter-Prädikate: node[amenity=golf_course]node[leisure=golf_course]
 
* Mehrere Filter-Prädikate: node[amenity=golf_course]node[leisure=golf_course]
* It's not possible to do an OR query with nodes OR ways. This is a limitation of the XAPI syntax.
 
  
==== Tabellen-Abbildungen ====
+
Not supported syntax:
Tabellen-Abbildungen auf Basis osm2pgsql-Schema, die dann Grundlage der:
+
* Child Element Predicates from XAPI (see above).
* point, line, polygon => osm_point, osm_line, osm_polygon (zusätzlich zur XAPI-Syntax).
+
* Limitations of the XAPI syntax:
* node => osm_point
+
** It's not possible to do an OR query with nodes OR ways.
* way => osm_polygon
+
** There exists no negation of key/value selections.
* relation => osm_rels
+
 
* '*' => osm_all  
+
Abbildung XAPI-Tabellen zu [[EOSMDBOne]]-Schema:
 +
* node, way und relation => osm_point, osm_polygon und osm_rels (wie XAPI-Syntax ausser way zu dem ways fehlt (vgl. line)).
 +
* point, line und polygon => osm_point, osm_line und osm_polygon (zusätzlich zur XAPI-Syntax).
 +
* '*' => osm_all (d.h. osm_point, osm_line und osm_polygon).
  
XAPI-zu-SQL-Abbildungen:
+
Abbildung XAPI-zu-SQL ([https://github.com/osm-spline/xapi/blob/master/sql/sampleRequests.sql Sample SQL-Requests]):
* bbox becomes "WHERE ST_CONTAINS(<bbox>,<point_or_way_geom>)"
+
* BBox search ("bbox") becomes "WHERE ST_CONTAINS(<bbox>,<point_or_way_geom>)"
* equality search becomes AND hstore(tags)->'key' = 'value'
+
* equality search ("key=value") becomes AND hstore(tags)->'key' = 'value'
* wildcard search becomes AND hstore(tags)?'fee'
+
* wildcard search ("key=*") becomes AND hstore(tags)?'fee'
* Passend dazu SQL-Requests https://github.com/osm-spline/xapi/blob/master/sql/sampleRequests.sql
 
  
==== Implementations-Details ====
+
=== Webservices API ===
* Wegen '[', '*' sowie ':' (in Keys wie 'name:de') muss die URL kanonisiert werden?
+
 
* Spaces sind in Values auch zugelassen, vgl. node[name=Knie's Kinderzoo]
+
==== About DB Request ====
 +
 
 +
Last Update and List of tables.
 +
* Request: about-db-query.php
 +
* Response: Zwei Zeilen bestehend aus Datum der letzten erfolgreichen Aktualisierung der OSM-Daten (mit Hilfe des daily jobs) und allen Tabellen in der DB 'gisdb':
 +
LastUpdate=17.06.2011
 +
Tables=geography_columns,geometry_columns,osm_all,osm_line,osm_nodes,osm_point,osm_polygon,osm_rels,osm_roads,osm_ways,spatial_ref_sys
 +
 
 +
==== XAPI-to-SQL ====
 +
* Request:
 +
http://labs.geometa.info/postgisterminal/xapi.py?query=node[amenity=*]
 +
* Response: SQL gemäss dem gegebenen XAPI-String:
 +
SELECT ST_AsText(way) geom,
 +
COALESCE(name, '')||' '||osm_id label
 +
FROM osm_point WHERE hstore(tags)?'amenity'
 +
 
 +
* Wegen URL-Spezialzeichen '[', '*' sowie ':' (in Keys wie 'name:de') muss die get URL speziell behandelt werden.
 +
* Square Brackets und Spaces sind in Values auch zugelassen, vgl. node[name=Knie's Kinderzoo]
 
* das XAPI-to-Map funktioniert auch mit Permalink, z.B. node[amenity=hospital][bbox=-6,50,2,61]?zoom=18&lat=47.223&lon=8.822&layers=B0T
 
* das XAPI-to-Map funktioniert auch mit Permalink, z.B. node[amenity=hospital][bbox=-6,50,2,61]?zoom=18&lat=47.223&lon=8.822&layers=B0T
* Für häufige Abrafen siehe auch die [http://jxapi.openstreetmap.org/xapi/admin/stats  JXAPI-Logs] (live!) sowie den [http://fsi.spline.de/osm/xapi-access-23-01-2011.log.bz2 Log-Backup von XAPI] mit unbestätigter Herkunft.
+
* Für häufige Abfragen siehe auch die [http://jxapi.openstreetmap.org/xapi/admin/stats  JXAPI-Logs] (live!) sowie den [http://fsi.spline.de/osm/xapi-access-23-01-2011.log.bz2 Log-Backup von XAPI] mit unbestätigter Herkunft.
* Ev. Zusätzliche Views, Tabellen und Indexes anlegen.
 
* Primary Keys prüfen! Bei mir hatten osm_point, osm_line, osm_polygon keine!!
 
* Prüfen was schneller ist: DROP osm_node und all das CREATE... oder TRUNCATE TABLE osm_node und INSERT...
 
* osm_roads => streichen aus default-style?
 
  
 
Beispiel (man beachte, dass nicht der '->'- sondern der '@>'-Operator verwendet wird wegen GiST-Index):
 
Beispiel (man beachte, dass nicht der '->'- sondern der '@>'-Operator verwendet wird wegen GiST-Index):
Zeile 132: Zeile 152:
 
   wird abgebildet auf osm_line (oder osm_polygon?)
 
   wird abgebildet auf osm_line (oder osm_polygon?)
  
=== Webservices API ===
+
=== Security Features ===
  
==== Date and Table List of Database ====
+
Siehe auch [[EOSMDBOne]].
  
* Request:  about-db-query.php
+
Client (JavaScript) fügt "LIMIT 100" dazu.
* Response besteht aus Datum der letzten erfolgreichen Aktualisierung der OSM Daten mit Hilfe des daily jobs und allen Tabellen in der DB 'gisdb':
 
LastUpdate=17.06.2011
 
Tables=geography_columns,geometry_columns,osm_all,osm_line,osm_nodes,osm_point,osm_polygon,osm_rels,osm_roads,osm_ways,spatial_ref_sys
 
 
 
==== XAPI-to-SQL ====
 
* Request:
 
http://labs.geometa.info/postgisterminal/xapi.py?query=node[amenity=*]
 
* Response: SQL gemäss dem gegebenen XAPI-String:
 
SELECT ST_AsText(way) geom,
 
COALESCE(name, '')||' '||osm_id label
 
FROM osm_point WHERE hstore(tags)?'amenity'
 
 
 
=== Security Features ===
 
GRANTS: Rechte entziehen, damit User Tables und Views nicht erzeugen oder löschen können!
 
  Schema nicht PUBLIC? Test: create table customer (id serial, name text); drop table customer; !!!
 
  Konfigurieren PostgreSQL Server (postgresql.conf parameters): Disabling autovacuum daemon, fsync=off etc.
 
  
 
DB-Server-Timeout: als Parameter der PostgreSQL-Verbindung in process-query.php (oder als "statement_timeout (60000)" in postgresql.conf); siehe [http://www.postgresql.org/docs/9.0/interactive/runtime-config-client.html]  
 
DB-Server-Timeout: als Parameter der PostgreSQL-Verbindung in process-query.php (oder als "statement_timeout (60000)" in postgresql.conf); siehe [http://www.postgresql.org/docs/9.0/interactive/runtime-config-client.html]  
Zeile 158: Zeile 162:
 
   SET transaction_read_only TO TRUE;
 
   SET transaction_read_only TO TRUE;
 
   ALTER DATABASE x SET default_transaction_read_only = on;
 
   ALTER DATABASE x SET default_transaction_read_only = on;
 
Logging: Log von IP, Query-String und Response-Infos (success/error/etc. und Prozess-Zeit) speichert. Lösung über process-query.php oder Analyse (grep) Apache-Log?
 
  
 
=== Data Features ===
 
=== Data Features ===
  
* Nightly Update: Einrichten eines Cron-Jobs, der einmal pro Nacht die Schweiz neu einspielt. ''-- realisiert''
+
Data comes from [[OpenStreetMap]] and is imported once every early morning using [[Osm2pgsql]]. For more information about the database see [[EOSMDBOne|'Enhanced OpenStreetMap Database One' (EOSMDBOne)]].
* Webservice indicating database update time and a list of tables => about-db-query.php . ''-- realisiert''
 
* Schema configuration: Style-Datei anpassen, so dass Tabellennamen ohne "planet" und ohne Underscores erzeugt werden, also z.B. anstelle „planet_osm_point“ nur „osmpoint“.
 
* Associative Array: hstore (-h Parameter bei osm2pgsql) ''-- realisiert''
 
 
 
'''Zusätzliche Tables, Views und Indexes:'''
 
 
 
  ----------
 
  -- osm_all
 
  CREATE OR REPLACE VIEW osm_all_v (id, name, tags, gtype, osm_version, way) AS
 
  SELECT osm_id, name, tags, 'pt', osm_version, way
 
  FROM osm_point
 
  UNION
 
  SELECT osm_id, name, tags, 'ln', osm_version, way
 
  FROM osm_line
 
  UNION
 
  SELECT osm_id, name, tags, 'po', osm_version, way
 
  FROM osm_polygon
 
 
 
  CREATE OR REPLACE TABLE osm_all AS (SELECT * FROM osm_all_v);
 
 
 
  CREATE INDEX osm_all_name_idx
 
  ON osm_all(name) WITH (FILLFACTOR=100);
 
  CREATE INDEX osm_all_tags_idx
 
  ON osm_point USING gist(tags) WITH (FILLFACTOR=100); -- Kann "FEHLER:  invalid hstore value found" ergeben!
 
  -- CLUSTER osm_poi USING ; --?
 
 
 
  ----------
 
  -- osm_poi
 
  CREATE OR REPLACE VIEW osm_poi_v (id, name, tags, gtype, osm_version, way) AS
 
  SELECT osm_id, name, tags, 'pt', osm_version, way
 
  FROM osm_point
 
  UNION
 
  SELECT osm_id, name, tags, 'po', osm_version, ST_Centroid(way)
 
  FROM osm_polygon
 
 
 
  CREATE OR REPLACE TABLE osm_poi AS (SELECT * FROM osm_poi_v);
 
 
 
  CREATE INDEX osm_poi_name_idx
 
  ON osm_poi(name) WITH (FILLFACTOR=100);
 
  CREATE INDEX osm_poi_tags_idx
 
  ON osm_poi USING gist(tags) WITH (FILLFACTOR=100); -- Kann "FEHLER:  invalid hstore value found" ergeben!
 
  -- CLUSTER osm_poi USING ; --?
 
 
 
  ----------------
 
  -- Cleanup DB...
 
  VACUUM FREEZE ANALYZE;  -- das kann dauern...
 
  
Funktion, die möglichst effizient schaut, ob Daten in der einer Tabelle sind (z.B. als Basis für einen RESTful-Aufruf eines externen Monitors):
+
=== Logging ===
  
CREATE OR REPLACE FUNCTION osm_point_not_empty() RETURNS boolean AS '
+
Log von IP, Query-String und Response-Infos (success/error/etc. und Prozess-Zeit) speichert. Lösung über process-query.php oder Analyse (grep) Apache-Log?
  SELECT EXISTS (SELECT osm_id FROM osm_point LIMIT 1 OFFSET 100000); ' LANGUAGE SQL;
 
-- Undo: DROP FUNCTION osm_point_not_empty();
 
-- Test: SELECT osm_point_not_empty();
 

Aktuelle Version vom 4. November 2012, 23:29 Uhr

Please note here your questions and feedback below. You can also send them directly to Stefan Keller.

Task List

Siehe auch Diskussion:EOSMDBOne#Task List.

  • BUG: Permalink funktioniert nicht: Erzeugt zurzeit ?xapi=*%5Bamenity%253Dbicycle_parking%5D&zoom=18&lat=47.22315&lon=8.81703&layers=B0T statt ?xapi=*[amenity%3Dbicycle_parking]&zoom=18&lat=47.22315&lon=8.81703&layers=B0T
  • BUG: ST_Relate funktioniert auf IE nicht.
  • Zusätzliche Weblinks: | Permalink | OSM | OpenPOIMap |
    • OSM: http:// www.openstreetmap.org/?zoom=18&lat=47.22315&lon=8.81703&layers=B0T
    • OpenPOIMap http:// openpoimap.ch/?zoom=17&lat=47.22577&lon=8.81572&xapi=*[amenity=bicycle_parking]
  • In Fusszeile statt "GISpunkt HSR" neu "Geometa Lab HSR" wobei der Weblink neu http://wiki.hsr.ch/StefanKeller/wiki.cgi?GeometaLab heisst.
  • Syntax-Erweiterung:
    • Zusätzlich zu 'node', 'way', 'rel' und '*' (=all) soll auch die (fast) gleichnamige Tabelle 'poi' angegeben werden können.
    • Vergleichsoperator '!=' (=IsNotEqualTo) bei Values. Bsp.: ?xapi=node[cuisine!=pizza].
    • Logischer Operator '|' (= OR) bei Tags - analog zum "union" operator für Values: Bsp.: ?xapi=node[amenity=restaurant]|[tourism=office]

History

  • ST_Relate einbauen.
  • Anzeigen Datum und neu Zeit (via about-db-query.php)
  • Signalisieren, wenn DB offline ist (via about-db-query.php)
  • Bug: Seit dem letzten Code-Update scheinen die vordefinerten Queries (vgl. "SQL Composer" auf Startseite) nicht mehr zu funktionieren. Bei den „Examples“ hat es zwei gleiche Einträge (mit unterschiedlichen SQLs) und die vordefinierte Variable für Geometrieattribut heisst linestring (statt way).
  • XAPI (Links): XAPI-to-Map-URLs sollen in Mails und Wikis eingebettet werden können (daher 'PostGIS_Terminal#XAPI-to-Map'). D.h. kanonisierte URLs sollten ebenfalls funktionieren, z.B. http://labs.geometa.info/postgisterminal/?xapi=node%5Btourism=zoo%5D<> (auch "Permalink" kanonisiert die XAPI-Syntax (<nowiki>['=']).
  • Kontext-Menu (= "Right Click") in der Karte entweder disablen oder idealerweise mit Funktionen belegen (ähnlich Google Maps) wie "Zoom in, Zoom out, Karte hier zentrieren" (sobald auf OpenPOIMap implementiert).
  • Relate exemplified:
    • Unten bedeutet “ptV ptV TTTTTTTT (+)” folgendes:
    • ptV ist ein Auswahlfeld/Pulldownliste mit pt als Default. Nebst pt gibt es noch li und po (für point, linestring und polygon) zu Auswahl.
    • TTTTTTTT ist das Pattern als Zeichenkette (9 Chars, die entweder T,F,0,1,2 oder * enthalten können).
    • (+) soll ein Button sein, der bewirkt, dass ein modaler Dialog geöffnet wird, in dem man in den Bildern blättern kann (realisiert als neues Window? Schön wäre wenn der Dialog mit ESC wieder verlassen werden könnte).
    • Tests: Siehe PostGIS_-_Tipps_und_Tricks#ST_Relate
 SQL Composer (Help):
 » Basics:                   --pick--         V
 » Outputs / Measurements:   --pick--         V
 » Relationships (bool):     --pick--         V
 » Relate exemplified (bool) ptV ptV TTTTTTTT(+)
 » Processors (geom):        --pick--         V
 » Examples:                 --pick--         V

Feature Requests

BUG:

  • mapextent() kann nur einmal vorkommen. Damit funktioniert's z.B. bei ST_Relate und JOINs nicht.

XAPI-Syntax-Erweiterungen:

  • mit Parameter sql=... ergänzen,
  • Ansprechen der Tabelle 'osm_poi': "poi[name=%Feuerwehr%]".
  • OR von tags. Bsp. ?xapi=[amenity=restaurant]|[tourism=office].
  • NOT Operator '!' mit values, z.B. ?xapi=[amenity=restaurant][cuisine!=pizza].
  • Operatoren LIKE '~~' und ILIKE '~~*', sowie NOT LIKE / NOT ILIKE ('!~~' / '!~~*') mit den für DB üblichen Wildcards '_' und '%' (PostgreSQL Style; man könnte auch nur '~', etc. nehmen).
  • Wildcard '*' für Values, Bsp.: alle Werte mit Namen [name=*]

Weitere:

  • Interaktive Karten-Queries... => Siehe OpenPOIMap
  • Permalink-Aufruf zu OSM und OpenPOIMap.
  • Logging der Queries.
  • Button "Show Tables" neu => "About Database" mit Statistik der enthaltenen Points, POIs, Lines und Polygons (File:about-db-query.php)
  • DB-unabhängig machen! D.h. "Weitere Parameter" (aus config.php) in HTML/Javascript laden.
  • DB Zugangsparameter mit Port und Zugangsweise (Text, TSL, SSL) erweitern.
  • Besseres Verwalten von Layern, die aus Map und Marker Queries entstanden sind.
  • Wait-Cursor (OpenLayers?)
  • Konfigurierbare Marker Query with Attribut 'icon', mit dem man Icons von externen Quellen (url) darstellen kann.
  • Ersetzen von xapi.py (Python) durch xapi.php (PHP)

PostGIS-Terminal Documentation

XAPI-to-Map

About

Die XAPI-to-Map-Funktion wandelt Anfragen in der Query-Sprache XAPI nach SQL um, fragt die OSM-Datenbank ab und stellt das Resultat direkt in der Webkarte dar. XAPI-to-Map ist - wie der Name sagt - kein Webservice (Maschine-Maschine) sondern eine Mensch-Maschine-Webapplikation. Die Syntax kennt häufige Requests, bestehend aus einem oder mehrerer Tag/Value-Paar sowie ggf. einer Bounding Box-Angabe. Nicht implementiert ist z.B. 'Union-Filter' (OR) im Key (node[amenity|leisure=golf_course]). Im Gegensatz zu anderen XAPI-Implementationn kann man dafür mehrere Filter-Prädikate angeben (z.B. node[amenity=golf_course]node[leisure=golf_course]). Ebenfalls nicht implementiert ist der Existenz-Operator, z.B. 'node[not(tag)]' wenn Nodes gesucht werden, die keine Tags enthalten (siehe XAPI Child Element Predicate).

Notes on the "xapi=..." parameter and the weblink: Special query characters - except A-Z, a-z and " - must be "percent-encoded US-ASCII octet". There are online tools to help out like this one. (see [1]

Test Cases

  • node[amenity=*]
  • node[highway=busstop]
  • node[highway=busstop|shop|washroom]
  • way[highway = busstop][shop=drugstore]
  • node[bbox=5.943,45.935,10.612,47.731]
  • node[amenity=hospital][bbox=-6, 50, 2, 61]
  • node[name=Knie's Kinderzoo][name:de=Knie]
  • node[bbox=1,2,3,4]
  • way[amenity=*][highway=busstop]

Some test examples (based on template 'http://labs.geometa.info/postgisterminal/?xapi=node%5Btourism%3Dzoo%5D'):

 Use template:
 <postgisterminal_url>?xapi=node[tourism=zoo]</nowiki> 
 <postgisterminal_url>/?xapi=node[amenity=*][bbox=5.943,45.935,10.612,47.731]</nowiki>
 <postgisterminal_url>/?xapi=node[highway=busstop]</nowiki>
 <postgisterminal_url>/?xapi=node[amenity=hospital][bbox=-6,50,2,61]?zoom=18&lat=47.223&lon=8.822&layers=B0T</nowiki>
 <postgisterminal_url>/?xapi=*[seamark:type=signal_station_warning]</nowiki>

Syntax-Abbildungen

Supported syntax elements (Original XAPI-Dokumentation und andere XAPI-Server: Siehe XAPI):

  • Abbildung aller Tabellen sowie '*' (siehe Tabellen-Abbildungen unten)
  • Equality Filter (1x): way[highway=motorway]
  • Wildcard Filter: im Value way[highway=*]
  • BBox-Filter (1x): [bbox=left,bottom,right,top]
  • 'Union-Filter' (OR) im Value: way[highway=motorway|motorway_link|trunk|primary]
  • Mehrere Filter-Prädikate: node[amenity=golf_course]node[leisure=golf_course]

Not supported syntax:

  • Child Element Predicates from XAPI (see above).
  • Limitations of the XAPI syntax:
    • It's not possible to do an OR query with nodes OR ways.
    • There exists no negation of key/value selections.

Abbildung XAPI-Tabellen zu EOSMDBOne-Schema:

  • node, way und relation => osm_point, osm_polygon und osm_rels (wie XAPI-Syntax ausser way zu dem ways fehlt (vgl. line)).
  • point, line und polygon => osm_point, osm_line und osm_polygon (zusätzlich zur XAPI-Syntax).
  • '*' => osm_all (d.h. osm_point, osm_line und osm_polygon).

Abbildung XAPI-zu-SQL (Sample SQL-Requests):

  • BBox search ("bbox") becomes "WHERE ST_CONTAINS(<bbox>,<point_or_way_geom>)"
  • equality search ("key=value") becomes AND hstore(tags)->'key' = 'value'
  • wildcard search ("key=*") becomes AND hstore(tags)?'fee'

Webservices API

About DB Request

Last Update and List of tables.

  • Request: about-db-query.php
  • Response: Zwei Zeilen bestehend aus Datum der letzten erfolgreichen Aktualisierung der OSM-Daten (mit Hilfe des daily jobs) und allen Tabellen in der DB 'gisdb':
LastUpdate=17.06.2011
Tables=geography_columns,geometry_columns,osm_all,osm_line,osm_nodes,osm_point,osm_polygon,osm_rels,osm_roads,osm_ways,spatial_ref_sys

XAPI-to-SQL

  • Request:
http://labs.geometa.info/postgisterminal/xapi.py?query=node[amenity=*]
  • Response: SQL gemäss dem gegebenen XAPI-String:
SELECT ST_AsText(way) geom,
COALESCE(name, )||' '||osm_id label
FROM osm_point WHERE hstore(tags)?'amenity'
  • Wegen URL-Spezialzeichen '[', '*' sowie ':' (in Keys wie 'name:de') muss die get URL speziell behandelt werden.
  • Square Brackets und Spaces sind in Values auch zugelassen, vgl. node[name=Knie's Kinderzoo]
  • das XAPI-to-Map funktioniert auch mit Permalink, z.B. node[amenity=hospital][bbox=-6,50,2,61]?zoom=18&lat=47.223&lon=8.822&layers=B0T
  • Für häufige Abfragen siehe auch die JXAPI-Logs (live!) sowie den Log-Backup von XAPI mit unbestätigter Herkunft.

Beispiel (man beachte, dass nicht der '->'- sondern der '@>'-Operator verwendet wird wegen GiST-Index):

 .../node[tourism=zoo][bbox=6.2,46.1,10.0,47.6]
 wird abgebildet auf: 
 SELECT ST_AsText(way) geom, name||' '||osm_id label
 FROM osm_point
 WHERE tags @> hstore('tourism','zoo') -- nicht hstore(tags)->'tourism' = 'zoo'
 -- OR ... abhängig von XAPI-Syntax
 AND ST_Contains(ST_Transform(ST_SetSRID('BOX(6.2 46.1, 10.0 47.6)'::box2d, 4326),900913),way)
 .../way[xxx]
 wird abgebildet auf osm_line (oder osm_polygon?)

Security Features

Siehe auch EOSMDBOne.

Client (JavaScript) fügt "LIMIT 100" dazu.

DB-Server-Timeout: als Parameter der PostgreSQL-Verbindung in process-query.php (oder als "statement_timeout (60000)" in postgresql.conf); siehe [2]

 SET STATEMENT_TIMEOUT TO 60000;
 SET transaction_read_only TO TRUE;
 ALTER DATABASE x SET default_transaction_read_only = on;

Data Features

Data comes from OpenStreetMap and is imported once every early morning using Osm2pgsql. For more information about the database see 'Enhanced OpenStreetMap Database One' (EOSMDBOne).

Logging

Log von IP, Query-String und Response-Infos (success/error/etc. und Prozess-Zeit) speichert. Lösung über process-query.php oder Analyse (grep) Apache-Log?